Studie: Unge vil heller ha helseråd fra KI enn leger

Det er ikke alltid legens råd de unge helst vil høre.

Det viser en ny norsk studie, som har bedtpersoner om å vurdere svar på helsefaglige spørsmål fra både Chat GPT og helsepersonell.

Resultatene viste at forsøkspersonene i de fleste tilfeller foretrakk svar som var skrevet av Chat GPT.

Disse resultatene overrasker ikke Anders Søgaard, professor ved Datalogisk Institutt på Københavns Universitet.

– Disse modellene er trent til å være så overbevisende som overhodet mulig. De er trent på tilbakemeldinger fra mennesker, noe som har lært dem hvordan de skal formidle informasjon på en overbevisende måte, sier han.

I studien har forskerne samlet en lang rekke svar fra den norske siden ung.no. Det er en nettside hvor unge mennesker kan stille spørsmål om helse, som blir besvart og publisert av fagpersoner og helsepersonell.

Forskergruppen har bedt Chat GPT om å svare på en rekke spørsmål fra ung.no. Deretter har 123 unge i aldersgruppen 16 til 20 år vurdert hvilke svar de syntes var best, uten å fortelle forsøksgruppen hvorvidt svarene var skrevet av Chat GPT eller kvalifisert personale.

Resultatene viste at respondentene vurderte svarene fra Chat GPT høyere på parametere som å føle seg sett og hørt i svaret, samt hvorvidt de ville anbefale svaret til andre.

Det stemmer ikke alltid, men det høres riktig ut

I studien har de utelukkende undersøkt hvilke svar respondentene foretrakk. De har således ikke undersøkt hvorvidt svarene var faktuelt korrekte.

Her kan språkmodeller dog ha en svakhet, ifølge Anders Søgaard.

– Det man optimaliserer for, er hvorvidt noe virker troverdig, og ikke hvorvidt det rent faktisk er sant, sier han.

Det er også velkjent at språkmodeller som Chat GPT har en tendens til å hallusinere – altså finne opp feilaktig informasjon og presentere det som fakta.

Anders Søgaard uttaler at man kan være bekymret for påliteligheten til språkmodeller som Chat GPT. Han sier også at det ofte vil være et sammenfall mellom et troverdig og et korrekt svar.

– Hvis noe virker troverdig for mange mennesker, vil det ofte være fordi det er riktig, men det kan man ikke være sikker på, sier han.

I tillegg til risikoen for falsk informasjon fremhever Anders Søgaard også andre farer ved å stille språkmodeller helsefaglige spørsmål.

Han peker på at trent helsepersonell kan være oppmerksomme på mange faresignaler, som chatboter ikke kan fange opp.

– Det kan være at problemet slett ikke handler om den sykdommen personen er redd for, men kanskje i virkeligheten noe helt annet, som for eksempel å ha helseangst eller lignende, sier han.

KI vil fylle mer i fremtidens helsevesen

Til tross for fallgruvene ved å søke helsefaglige råd hos chatboter, er ikke Søgaard i tvil om at chatboter og andre former for KI vil fylle mer og mer i fremtidens helsevesen.

– Jeg tror det vil bli en del av det tilbudet vi ser fra det private og det offentlige helsevesenet, at pasienter kan vende sine overveielser med en eller annen variant av chatboter, sier han.

Anders Søgaard viser til flere tegn på at KI i økende grad vil bli implementert i helsevesenet.

– Det er en helsesektor som er presset på ressurser. Det er veldig mange som ønsker å snakke om helse, og det er allerede hundrevis – hvis ikke tusenvis – av prosjekter som jobber med helseformidling og støtte til helsepersonell, sier han.

Artikkelen ble først publisert på Version 2 for deres abonnenter. Den er tilgjengelig på norsk for abonnenter av Ekstra gjennom vår samarbeidsavtale.