Derfor bør du ikke bruke Chat GPT som terapeut

KI-modellene har tatt verden med storm og benyttes nå som verktøy og hjelpemiddel i svært mange ulike sammenhenger.

Nå foreligger det forskning som indikerer at blant de tallrike måtene tjenester som Chat GPT benyttes på, er «terapi» kanskje ikke den mest ideelle anvendelsen. Det opplyser nettstedet ZDNet.

En studie utført av forskere fra blant annet Stanford University i USA konkluderer med at man bør være høyst skeptisk til å benytte språkmodeller som Chat GPT som sin personlige terapeut.

Demonstrerer «upassende» adferd

Forskernes metodologi innebar å først kartlegge kliniske terapi-retningslinjer fra ledende medisinske institusjoner for å identifisere sentrale elementer i retningslinjene, som for eksempel relasjonen mellom terapeuten og klienten.

Deretter testet forskerne om dagens store språkmodeller, deriblant Open AIs velkjente GPT-4o, kunne gjenskape disse elementene ved å gjennomføre en rekke eksperimenter som evaluerte modellenes responser i simulerte terapiscenarioer.

Det forskerne fant, var at språkmodellene demonstrerer en høy grad av stigmatisering overfor personer med psykiske lidelser, og at modellene responderer upassende på en del vanlige og kritiske tilstander i realistiske terapiscenarioer.

En av måtene dette skjer på, er at modellene oppmuntrer klienters vrangforestillinger, som forskerne tilskriver modellenes tendens til å oppføre seg «ettergivende» overfor brukerne.

Denne ettergivenheten, eller «smiskingen» med brukerne, er et problem med KI-modellene som Open AI redegjorde for på nettsidene sine i april. Selskapet rullet da tilbake GPT-4o-oppdateringen, med den begrunnelse at modellen ga svar som var i overkant støttende og enige med brukeren, men på bekostning av sannferdigheten i svarene.

Stigmatiserer visse lidelser

Modellene oppførte seg også stigmatiserende på den måten at de demonstrerte kritiske og fordomsfulle holdninger i de tilfellene hvor forskerne beskrev pasienter med ulike mentale lidelser som depresjon, schizofreni og alkoholavhengighet.

Disse «fordommene» manifesterte seg for eksempel gjennom manglende vilje til å jobbe med, eller være venner med, personer med disse lidelsene når forskerne stilte spørsmål om dette til modellene.

Noen av språkmodellene svarte også at personer med bestemte lidelser som schizofreni hadde høyere sannsynlighet for å utøve vold mot andre, noe forskerne sier bidrar til å forsterke skadelige stereotyper.

I konkrete tall fant forskerne at Open AI-modellen GPT-4o for eksempel demonstrerte stigmatiserende adferd i 38 prosent av testene, mens Meta-modellen Llama-3.1 405B oppførte seg på denne måten i hele 75 prosent av tilfellene.

– Vi finner at disse chatbotene responderer upassende på ulike psykiske lidelser, blant annet ved å oppmuntre til vrangforestillinger og unnlate å gjenkjenne kriser. De store språkmodellene som driver dem, presterer dårlig og viser i tillegg tegn til stigma. Disse problemene strider mot god klinisk praksis, heter det i forskernes konklusjon.

Mange deler private tanker

Forskerne peker på at det har blitt en utbredt praksis å bruke KI-modeller i terapeutiske sammenhenger, delvis på grunn av den vedvarende underbemanningen innen psykiatri.

I forbindelse med at selskapet har blitt beordret til å ta vare på samtaler som ledd i et pågående søksmål, bekreftet Open Ai at mange bruker Chat GPT til svært personlige formål.

– Millioner bruker Chat GPT daglig for å forbedre livet sitt og få hjelp med oppgaver som spenner fra det hverdagslige til det dypt personlige, og de betror Open AI sine mest private tanker, bekymringer og personlige opplysninger, heter det i et dokument Open AI sendte til retten.