Svarer på økt KI-bruk: Utviklet chatbot for psykisk helsehjelp

Flere unge vender seg til språkmodeller for råd om egen psykisk helse.

I 2024 oppga 24 prosent av unge mellom 18 og 29 år at de kan se for seg å bruke KI som psykolog. Samtidig viser en undersøkelse fra Sintef at mange unge i noen tilfeller foretrekker svar fra ChatGPT fremfor svar fra fagpersoner i en psykologisk samtale.

Etterspørselen er der, og det merker Espen Veierød og Sondre Risholm Liverød.

Derfor utviklet de KI-tjenesten BeBalanced.ai.

Fra terapirom til chatbot

Espen Veierød er administrerende direktør i Vieri, et norsk programvareselskap som lager innkjøpssystemer for bedrifter. Sammen med psykologene Sondre Risholm Liverød, Janne Risholm Liverø og Maria Abrahamsen, bestemte de seg for å utvikle en chatbot for psykologisk veiledning.

Ideen kom fra tanken om hva som ville skje om det faglige materialet til en psykolog kunne bli tilgjengelig i en form som kan ha en samtale med deg.

Da generativ KI ble tilgjengelig, ble spørsmålet mer konkret:

– Hva skjer hvis dette materialet faktisk kan snakke med deg? Spør Liverød, som er psykologspesialist i klinisk voksenpsykologi og kjent fra podkasten SinnSyn.

Høy geopolitisk angst

Utviklerne understreker at BeBalanced ikke skal erstatte en psykolog, men fungere som en samtalepartner.

– Vi bygger ikke en psykolog i tradisjonell forstand. Dette er en refleksjonspartner, sier Liverød.

Samtidig er de bevisste på risikoen for avhengighet. Derfor vil chatbotten gi brukeren øvelser som skal lede den tilbake til eget liv og relasjoner.

– Poenget er ikke å gi råd eller stille diagnoser, men å hjelpe folk å utforske egne tanker og følelser, forklarer Liverød.

I praksis betyr det å unngå at chattbotten blir en «ja-maskin» som bekrefter og beroliger, men i liten grad utfordrer og nyanserer, ifølge Veierød.

Løsningen er basert på språkmodeller fra OpenAI og bruker en såkalt RAG-metode, der modellen henter inn ekstern kunnskap før den svarer, ifølge Det europeiske datatilsynet.

– I vårt tilfelle er det mange år med psykologisk og filosofisk formidling som podkaster, tekster og foredrag, sier Veierød.

CoPilot og betalingsversjonen av ChatGPT er eksempler på språkmodeller som bruker denne modellen. Forskjellen, forteller Veierød, er at det er lagt inn sikkerhetsmekanismer i modellen med tydelige rammer om hvilke tema chatbotten skal holde seg unna, og når den skal oppfordre brukeren om å søke profesjonell hjelp.

– Har dere reflektert rundt valget om å bruke en amerikansk KI-løsning?

– Jeg kjenner på en ganske høy geopolitisk angst rundt å bruke amerikanske KI-modeller i noe så sensitivt, sier Veierød.

Likevel mener han det er bedre å forsøke å gjøre bruken tryggere, siden mange allerede bruker slike verktøy som samtalepartner.

– Kan fungere som samtalepartner

Å bruke KI til psykologisk veiledning er en naturlig utvikling i takt med den teknologiske utviklingen i samfunnet, mener psykolog Kaja Asbjørnsen Betin.

Hun kjenner til BeBalanced, men har ikke testet løsningen selv. I denne saken uttaler hun seg på generelt grunnlag om KI som samtalepartner.

– KI etterligner menneskelig dialog, og kan derfor fungere som samtalepartner også i spørsmål om psykisk helse, sier Betin.

Hun peker på at slike verktøy kan gjøre hjelp mer tilgjengelig, og bidra til å senke terskelen for å søke støtte.

Samtidig mener hun at slike verktøy også kan forsterke uhensiktsmessige tankemønstre eller redusere mellommenneskelig kontakt.

Frykter uklare grenser

En annen fallgruve er falsk trygghet, mener Line Joranger, professor i sosial-, kultur- og samfunnspsykologi ved Universitetet i Sørøst-Norge.

Hun peker på at formuleringer på BeBalanced sine nettsider, som «trygg samtalepartner» og hjelp til å «rydde i følelser», kan få brukere til å oppleve chatboten som terapi, selv om tjenesten presiserer at den ikke er det. Dermed viskes skillet mellom selvhjelpsverktøy og helsehjelp ut.

– Selv om det står at dette ikke er terapi, kan opplevelsen for brukeren ligne, særlig når samtalene blir personlige, sier hun.

Liverød anerkjenner bekymringen, og forklarer at de er oppmerksomme på denne glidingen.

– Vi er klar over at opplevelsen kan bli mer personlig og dyp, og det stiller krav til tydelig kommunikasjon og ansvarlig utforming. Vi forsøker derfor å være presise i hvordan vi beskriver løsningen, og samtidig legge føringer i samtalene som ikke posisjonerer KI-en som en terapeut.

Spørsmål om personvern

Joranger peker også på at lagring av samtaler kan ligne en pasientjournal, og dermed reiser spørsmål om håndtering av sensitive data.

Utviklerne sier de forsøker å ta hensyn til dette.

– Samtaleloggene slettes etter en stund og brukes ikke til å trene modellen. Det gjør utviklingen tregere, men fortrolighet er viktigere, sier Liverød.

Ifølge gründerne er brukerne også anonyme og brukerdata behandles med høy grad av personvern.

– Samtidig er vi bevisste på at dette er et felt i utvikling, hvor både teknologiske og etiske avklaringer må følges tett over tid, sier Liverød.