– Både fagpersoner og unge opplever at Chat GPT er i stand til å gi råd som oppfattes som relevante, empatiske og lette å forstå, forteller Sintef-forsker Marita Skjuve.
Skjuve og kollegene hennes på Sintef og Universitetet i Oslo har tatt for seg ekte spørsmål. Dette er spørsmål som unge har stilt om sin egen mentale helse til en hjelpeorganisasjon. Så har både kunstig intelligens (KI) og fagfolk svart – nærmere bestemt Chat GPT og fagpersoner som arbeider for informasjonstjenesten ung.no.
123 unge og 31 helsefaglige ansatte har fått se på svarene. De har ikke visst hvem som har svart hva. De har heller ikke fått vite hva forskerne var ute etter å undersøke.
Chat GPT får best karakter
I blindtesten ble deltagerne bedt om å vurdere hvor nyttige, relevante, forståelige og empatiske svarene var. De skulle også velge det svaret de likte best og forklare hvorfor.
De unge gir Chat GPT best karakter hele veien. Også fagpersonene som har svart, gir Chat GPT bedre karakterer, men her er ikke forskjellene like sikre.
– Vi ser at de unge liker svar fra Chat GPT litt bedre fordi de er lette å forstå og oppleves nyttige der og da. Svarene beskriver hva de unge kan gjøre for å løse et eventuelt problem knyttet til mental helse, sier Skjuve.
– Og så skal vi huske på at Chat GPT er ganske god på å gi ryddige og oversiktlige svar med kulepunkter, legger hun til.
Fagfolkene ser det ikke alltid på samme måten. De er litt mer kritiske til diagnosespråket fra Chat GPT. Dessuten oppleves ikke Cha GPT alltid som like validerende eller empatisk som et svar fra en fagperson.
– Men i det store og hele ser vi at begge gruppene synes at Chat GPT gir gode svar som kan hjelpe, sier forskeren.
Diagnosefare
Studien vurderte ikke om det er noen faglige feil i svarene. Men fagpersonene påpekte ingen slike feil. De var ikke bedt om å gjøre det, men det var heller ikke noen som sa ifra på eget initiativ at noe var direkte feil.
– KI skjønner ikke alltid kontekst og dikter opp svar. Derfor er kvalitetssikring fra helsepersonell viktig på dette området.
Noen få påpekte at Chat GPT kunne ha en tendens til å prøve å stille en diagnose. Fagfolk som arbeider for hjelpeorganisasjoner, har strenge retningslinjer. De skal gi råd – de skal ikke gi direkte helsehjelp og stille diagnoser. Slike retningslinjer har ikke Chat GPT.
Skjuve stiller spørsmål ved om dét kan være en grunn til at Chat GPT oppleves som mer praktisk anlagt og nyttig.
Fagfolk kan lære av KI
Så da er spørsmålet om kunstig intelligens som Chat GPT skal brukes til å hjelpe til med psykisk helse.
– Det vi har lært, er at Chat GPT er i stand til å lage svar som unge forstår og opplever som lette å lese. Det kan vi mennesker lære av. Kanskje KI kan inngå i arbeidet til en fagperson og hjelpe til med å gjøre budskapet tydeligere for en ung person, antyder Skjuve.
Hun kan tenke seg KI som et støtteverktøy. Det kan bidra til at fagpersoner svarer de unge bedre og raskere. Dermed kan hjelpen skaleres opp. Fagfolkene kan nå ut til flere unge som trenger hjelp. Samtidig beholder de den faglige kontrollen og kan kvalitetssikre svarene.
– Det siste er veldig viktig. KI kan ofte gi feil svar. Det kan være kritisk i spørsmål om mental helse, sier Skjuve.
Fremtiden er kanskje hybride tjenester der KI og helsepersonell arbeider tettere sammen for å utforme gode svar, tror hun.
Hun ser faren i at unge går til KI for å få svar med én gang i stedet for å vente to–tre dager på et kvalitetssikret svar fra en hjelpetjeneste.
Ble ikke overrasket
Hun er ikke egentlig overrasket over funnene.
– Vi har jo sett i andre studier at KI ofte kan oppleves som at den svarer bedre enn fagpersoner. KI er ofte god på å svare imøtekommende og empatisk, sier Marita Skjuve.
I neste omgang har forskerne gjort en oppfølgingsstudie uten blindtest. Der vet gruppen som er med, hvem som faktisk har svart på spørsmålet. Da ser det ut til at de foretrekker svarene fra fagpersonene og er mer skeptiske til KI. De resultatene er ikke klare og offentliggjort ennå.
Artikkelen ble først publisert på Gemini.no
Trenger du noen å snakke med?
Ved akutt fare for liv og helse, ring 113.
Det finnes flere steder der du kan dele tanker og følelser helt anonymt og få støtte, råd og veiledning:
Mental Helse: 116 123
Kors på halsen (Røde Kors): 800 333 21
Kirkens SOS: 22 40 00 40
Du kan også kontakte fastlege eller legevakt (116 117) for profesjonell hjelp. Å snakke om selvmordstanker kan redde liv.
Dropp KI-verktøy for å lage passord: Claude gjentok samme kode 18 ganger
