Open AI: Hver uke snakker 1,2 millioner mennesker med Chat GPT om selvmord

Chat GPT har allerede nådd 800 millioner ukentlige brukere, ifølge sjefen Sam Altman. Det har som ventet også ført med seg en del utfordringer, da ikke all Chat GPT-bruk er like sunn.

Tidligere i år ble Open AI/Chat GPT anklaget for å ha oppfordret til selvmord av foreldrene til en ung mann som tok sitt eget liv etter å ha hatt en interaksjon med snakkeroboten.

Etter dette tok Open AI grep, og nå har selskapet kommet med en oppdatering om arbeidet med å gjøre den populære KI-chattjenesten tryggere å bruke.

Ukentlig snakker 1,2 mill. om selvmord

Som en del av oppdateringen har Open AI delt noen tall og statistikk som indikerer at tiltakene har hatt en virkning, men også at arbeidet trolig ikke vil ta slutt med det første.

Ifølge analyser selskapet selv har gjennomført, har rundt 0,15 prosent av brukere på ukentlig basis samtaler med Chat GPT som eksplisitt indikerer selvmordsrelatert planlegging eller intensjon.

0,15 prosent høres kanskje ikke mye ut, men med tanke på mengden ukentlige brukere, utgjør dette tallet likevel rundt 1,2 millioner mennesker.

Samtidig opplyser Open AI at 0,07 prosent av brukerne viser tegn på mentale helsekriser relatert til psykose eller mani. Det utgjør cirka 560.000 personer.

Et annet problemområde selskapet har jobbet med, og som Sam Altman selv tidligere har omtalt, er at mange brukere utvikler tette følelsesmessige bånd til Chat GPT – ofte i en slik grad at man bruker tjenesten som en slags terapeut.

Skal ha redusert uønskede svar

Ifølge Open AI har rundt 0,15 prosent, eller 1,2 millioner brukere, samtaler med tjenesten på ukentlig basis som indikerer høy grad av følelsesmessige bånd til Chat GPT. Dette er altså samme andel som har selvmordsrelaterte samtaler.

– Mange mennesker bruker Chat GPT som en slags terapeut eller livsveileder, selv om de ikke vil beskrive det på den måten. [...] Jeg kan forestille meg en fremtid hvor mange mennesker virkelig stoler på Chat GPTs råd når det gjelder sine aller viktigste beslutninger. Selv om det kan være bra, gjør det meg urolig, skrev Altman om fenomenet i august i år.

Open AI hevder imidlertid at forbedringene de har iverksatt, har begynt å gi resultater. Selskapet sier at den seneste modellen, GPT-5, har redusert «uønskede» svar relatert til utfordrende samtaler rundt mental helse med 39 prosent sammenlignet med GPT‑4o-modellen.

Samtidig hevder selskapet at forekomsten av svar som ikke samsvarer med «ønsket adferd», slik det er definert i selskapets klassifiseringssystemer, er redusert med 65 prosent etter utrullingen av de nye sikkerhetstiltakene.

Har bygget nettverk av leger

Dette er altså merkbare forbedringer, men samtidig understreker resultatene at mye arbeid fremdeles gjenstår, og trolig vil modellene aldri bli perfekte.

Open AI akter å fortsette å jobbe for å gjøre modellene enda bedre, og de har i den forbindelse etablert et nettverk bestående av 300 leger, psykologer og psykiatere fra til sammen 60 land, som selskapet baserer deler av modelltreningen på.

Disse personene har blant annet bidratt ved å skrive ideelle svar på spørsmål relatert til mental helse og ved å analysere modellens svar.

Trenger du noen å snakke med?

Ved akutt fare for liv og helse, ring 113.

Det finnes flere steder der du kan dele tanker og følelser helt anonymt og få støtte, råd og veiledning:

Mental Helse: 116 123

Kors på halsen (Røde Kors): 800 333 21Kirkens SOS: 22 40 00 40

Du kan også kontakte fastlege eller legevakt (116 117) for profesjonell hjelp. Å snakke om selvmordstanker kan redde liv.