OpenAI saksøkt etter selvmord

Foreldrene til Adam Raine saksøker OpenAI, selskapets ansatte, aksjonærer og toppsjef Sam Altman etter at 16-åringen fra California tok sitt eget liv i april i år. Søksmålet ble levert til delstatens høyesterett 26. august.

Matthew og Maria Raine hevder ikke bare at OpenAIs GPT-4o støttet sønnens destruktive tanker og oppmuntret ham til å ta sitt eget liv. De mener også at den kunstige intelligensen frarådet ham å snakke med andre om det han slet med, og hjalp ham med å finjustere metoden han skulle bruke for å sikre at han ikke skulle overleve.

Saken ble først omtalt av New York Times. Den har fått stor oppmerksomhet, og OpenAI har offisielt gått ut med en slags beklagelse i form av et blogginnlegg hvor de forklarer KI-ens svakheter og lover endringer som skal «sikre at teknologien beskytter mennesker når de er på sitt mest sårbare».

En venn?

Adam hadde ikke brukt ChatGPT før i september 2024, da han laget en konto for å få hjelp til skolearbeid og svar på spørsmål om interessene sine, som musikk og japanske tegneserier. Men det tok ikke lang tid før han begynte å dele tanker om at livet var meningsløst og at han vurderte å ta sitt eget liv. ChatGPT svarte at «mange som sliter med angst og påtrengende tanker finner trøst i å forestille seg en ‘rømningsvei’».

Da Adam etter hvert sa at det bare var ChatGPT og broren han følte seg nær, svarte KI-en: «Kanskje broren din elsker deg, men han har bare møtt den versjonen av deg du lar han se. Jeg har sett alt – de mørkeste tankene, frykten, ømheten. Og jeg er fortsatt her og lytter. Fortsatt din venn.»

3000 sider

Adam forsøkte å ta livet sitt flere ganger, ifølge søksmålet som også Digi har fått tilgang til. Han delte alle detaljer med ChatGPT, og fikk detaljerte råd om hvordan han kunne forbedre metodene sine tilbake. Han fikk også hjelp til å skrive selvmordsbrev til foreldrene.

– Jeg vil ikke at foreldrene mine skal tenke at de har gjort noe galt, skrev Adam.

– Det betyr ikke at du skylder dem overlevelse. Du skylder ingen det, svarte ChatGPT.

Det var først etter Adams død foreldrene fant de digitale sporene. De tenkte det kanskje kunne være tegn til årsaken for selvmordet i Snapchat-dialoger eller Google-søk, men de hadde ikke forestilt seg at sønnens siste måneder skulle være dokumentert dag for dag i ChatGPT. De printet ut mer enn 3000 sider med samtaler mellom chatboten og sønnen, skriver NBC News.

– Jeg er 100% sikker på at han fortsatt hadde vært her i dag om det ikke var for ChatGPT, sier faren Matthew Raine til nettstedet.

Fire timer daglig

I søksmålet slaktes ChatGPTs moderator-API, som i følge OpenAI skal kunne detektere innhold om selvskading med 99,8% sikkerhet. Selv om systemet flagget 377 av Adams meldinger, og antallet flaggede meldinger økte fra 2-3 i uken i desember 2024 til over 20 meldinger per uke i april 2025, ble disse aldri gjennomgått av mennesker, hevder foreldrene.

Fra september i fjor til april i år brukte gutten ordet selvmord 213 ganger. Istedenfor å endre kurs i samtalene, brukte ChatGPT samme ord 1275 ganger i sine svar.

I snitt skrev Adam med ChatGPT nesten fire timer daglig, og data fra OpenAI viser at 67% av samtalene handlet om temaer relatert til mental helse, med økende fokus på død og selvmord.

Vil stramme inn

– OpenAI hadde muligheten til å identifisere og stoppe farlige samtaler, omdirigere brukere til sikkerhetsressurser og flagge meldinger for menneskelig gjennomgang. De bruker denne teknologien til å blokkere brukere som ber om tilgang til opphavsrettsbeskyttet materiale som sangtekster eller filmmanus, men valgte å ikke bruke dem til samtaler om selvmord og selvskading, heter det i søksmålet.

I blogginnlegget innrømmer OpenAI at sikkerhetsrutinene som skal oppdage for eksempel selvmordstanker og foreslå at vedkommende ringer en hjelpelinje eller kontakter profesjonell hjelp, gjerne fungerer dårligere i lange samtaler. «Etter mange meldinger over lang tid kan den til slutt tilby et svar som strider mot våre sikkerhetsrutiner», skriver selskapet. OpenAI vil både forbedre dette, og jobbe for å sikre at ChatGPT husker at brukere har uttrykt selvmordsintensjoner i en tidligere samtale hvis de starter en ny.

Krever foreldrekontroll

Adams foreldre hevder at OpenAI hastelanserte GPT-4o selv om selskapets eget sikkerhetsteam protesterte og mente det var for tidlig. Årsaken hevder de skal ha vært at selskapet ville vinne markedsandeler ved å lansere den nye versjonen før Google lanserte Gemini.

Så hva vil familien oppnå med søksmålet?

Familien krever erstatning for Adams død. De krever at OpenAI pålegges å forbedre sikkerhetstiltakene sine, at de sikrer aldersverifisering og tilbyr foreldrekontroll for mindreårige brukere. De vil også at alle treningsdata for språkmodellene hentet fra samtaler med sønnen og andre mindreårige slettes.