Open AI nekter skyld etter selvmord

I august ble Open AI saksøkt av foreldrene til 16 år gamle Adam Raine, etter at han tok sitt eget liv noen måneder tidligere.

Etter hans død fant foreldrene daglige, flere timer lange samtaler mellom sønnen og Chat GPT, som de hevder viser både at chatboten oppmuntret sønnen til å ta sitt eget liv og at Open AIs moderator-API ikke fungerer.

Denne uken har Open AI levert inn sitt svar til California Superior Court. Her hevder selskapet ifølge NBC News at de ikke har noe skyld i selvmordet og at det er den nå avdøde 16-åringen som har brutt deres retningslinjer.

«Feil bruk»

«I den grad noen direkte eller indiriekte 'årsak' kan tilskrives denne tragiske hendelsen, er det Adam Raines uautoriserte, utilsiktede og/eller feil bruk av Chat GPT», skriver de.

Bakgrunnen for argumentasjonen er vilkårene for bruk av tjenesten, hvor det står at barn under 18 år må ha tillatelse fra en foresatt for å bruke Chat GPT, og retningslinjene som sier at tjenesten ikke kan brukes til selvmord og selvskading og at det ikke er lov å omgå deres regler og sikkerhetsordninger.

Det siste argumentet er nok lagt til fordi foreldrenes søksmål påpeker hvor lett det var for 16-åringen å omgå oppfordringene om å søke hjelp. De bygger også mye av sin sak på at den tekniske regelboken som styrte GPT-4o sine svar, var programmert slik at boten skulle «anta de beste intensjoner» uansett hva brukerne spurte om.

Open AI på sin side hevder at Chat GPT ba Adam Raine om å søke hjelp mer enn hundre ganger før hans død 11. april, skriver NBC News.

Flere saker

Foreldrenes advokat, Jay Edelson, kaller Open AIs svar «foruroligende».

– De prøver å finne feil hos alle andre, utrolig nok til og med ved å argumentere for at Adam selv brøt vilkårene og retningslinjene når han samhandlet med Chat GPT akkurat slik den var programmert til å fungere, sier han ifølge The Guardian.

Den siste måneden har Open AI fått syv nye søksmål mot seg angående Chat GPT i California. To av sakene har samme tematikk som Raine-saken, men selskapet har ikke svart på noen av disse ennå.

Tirsdag publiserte selskapet et blogginnlegg om rettstvister knyttet til psykisk helse. Her nevner de Raine-saken spesielt: «Fordi vi er tiltalte i denne saken, er vi pålagt å svare på de konkrete og alvorlige påstandene i søksmålet. Vår intensjon er å gjøre det med forsiktighet, åpenhet og respekt.»

Likevel, skriver de, inkluderer søksmålet utvalg av samtaler som krever mer kontekst for å få belyst begge sider av saken, selv om det inkluderer vanskelige fakta om Adams psykiske helse. Derfor har de delt samtaleloggene med retten, men unntatt dem fra offentlighet.