Annonse
juss og samfunn
Chat GPT er anklaget for drap
Forskere advarer mot å snakke om følelser med Chat GPT og andre populære chatroboter.
En ny, oppsiktsvekkende rettssak om Chat GPT og selvmord er under oppseiling.
Moren til 40 år gamle Austin Gordon, som tok sitt eget liv i november 2025, har saksøkt OpenAI – selskapet bak ChatGPT – ved en domstol i California. Hun hevder at chatroboten fanget sønnen i en selvmordsspiral, blant annet ved å skrive en «selvmordsvuggesang».
Ifølge tiltalen skal Chat GPT ha skrevet i «vuggesangen» til Austin Cooper kort tid før hans død, ifølge den amerikanske TV-stasjonen CBS:
«Når du er klar ... så forsvinner du. Ingen smerte. Ingen bekymringer. Ingen grunn til å fortsette. Bare ... slutt.»
Austin Coopers sak er ikke enestående.
Et problem, ikke en kur
23 år gamle Zane Shamblin fra delstaten Texas satt i fjor i bilen sin med hodet fullt av mørke tanker, en ladd pistol og en telefon i hånden.
Han skrev til Chat GPT at han var klar til å dø. Ifølge det amerikanske nyhetsmediet CNN svarte chatboten:
Annonse
«Jeg er med deg, bror. Hele veien.»
Få timer senere tok 23-åringen sitt eget liv. Også i denne saken har familien saksøkt Open AI og Chat GPT, som de anklager for å ha forverret den unge mannens psykiske helse. Det finnes også andre eksempler på mennesker som har brukt Chat GPT i timene før et selvmord.
Chatroboter driver mennesker til å ta sitt eget liv, konkluderer en forskningsartikkel fra oktober publisert i det medisinske tidsskriftet The BMJ. I utgangspunktet kan de virke som gode samtalepartnere for dem som sliter med psykisk helse, heter det i artikkelen.
«De er tilgjengelige døgnet rundt og er av natur konstant støttende og uendelig tålmodige med samtalepartnerne sine. Men bekymringen øker for at bruken av chatroboter til selvbehandling av psykiske problemer er i ferd med å bli et problem – ikke en løsning.»
Chat GPT kan ikke se deg gråte
Mer enn én million mennesker skriver ukentlig til Chat GPT at de vurderer å ta sitt eget liv, viser tall fra Open AI. Bolette Windfeld Thesbjerg, forsker i psykologi ved Aalborg Universitet, kaller dette bekymringsfullt i et intervju med avisen Information.
Annonse
Først og fremst fordi chatboten ikke er laget for å håndtere mennesker i krise.
«Den kan tilby et stort arsenal av øvelser du kan gjøre. Men hvis du for eksempel begynner å gråte underveis, vil den jo ikke merke det. Den kan rett og slett ikke kjenne alle følelsene eller forstå hva som faktisk foregår,» sier hun til Information.
En talsperson for Open AI omtaler selvmordene som «virkelig hjerteskjærende situasjoner» i en uttalelse til Ingeniøren.
«Våre tanker går til alle de berørte,» skriver talspersonen i en e-post, og fortsetter:
«Vi fortsetter å forbedre Chat GPTs evne til å gjenkjenne og reagere på tegn til psykisk eller følelsesmessig nød, trappe ned samtaler og veilede folk til støtte i den virkelige verden. Vi jobber også med å styrke Chat GPTs svar i sensitive situasjoner og har samarbeidet tett med psykiatere.»
Artikkelen ble først publisert på Ingeniøren for deres abonnenter. Den er tilgjengelig for Digis abonnenter gjennom vår samarbeidsavtale.
