Open AI-sjefen er «urolig» over måten mange bruker Chat GPT på

Lanseringen av Chat GPT markerte en slags pangstart på den pågående KI-revolusjonen, og teknologiens lynraske evolusjon har ført med seg uforutsette konsekvenser som til og med har fått KI-aktørene selv til å rynke litt på nesen.

Nå er selveste Open AI-sjefen Sam Altman på banen med en aldri så liten bekymringsmelding, noe blant andre nettstedet Business Insider nylig fanget opp.

Advarer mot «tearapeut»-bruk

I forbindelse med utrullingen av den nye GPT-5-modellen la Altman ut en melding på X med det som må kalles en usedvanlig ærlig betraktning rundt folks bruk av Chat GPT, ispedd en liten advarsel.

– Mange mennesker bruker Chat GPT som en slags terapeut eller livsveileder, selv om de ikke vil beskrive det på den måten. [...] Jeg kan forestille meg en fremtid hvor mange mennesker virkelig stoler på Chat GPTs råd når det gjelder sine aller viktigste beslutninger. Selv om det kan være bra, gjør det meg urolig, skriver Altman.

Open AI-sjefen antyder at en risiko ved folks forhold til Chat GPT er at man ofte kan føle seg bedre etter en samtale med snakkeroboten, men i realiteten kan man likevel styres i en retning som ikke ivaretar brukerens langsiktige ve og vel.

– Folk har brukt teknologi, inkludert KI, på selvdestruktive måter. Dersom en bruker er mentalt sårbar og mottakelig for vrangforestillinger, vil vi ikke at KI skal forsterke dette, skriver Altman.

Bakgrunnen for Open AI-sjefens kommentar er at lanseringen av den nye GPT-5-modellen ble møtt med kritikk av brukere som merket at modellen hadde en «kaldere» personlighet enn den forrige modellen – et tegn på at folk har en tendens til å forme personlige bånd til KI-modellene.

Forskere med advarsel

– Det føles annerledes og sterkere enn den typen bånd folk har knyttet til tidligere former for teknologi, påpeker Altman.

Andre har også pekt på farene ved å benytte KI som en personlig terapeut. Digi har tidligere fortalt om en studie utført av amerikanske forskere som konkluderer med at man bør være høyst skeptisk til å benytte språkmodeller som Chat GPT som sin personlige terapeut.

Studien fant at modellene har en tendens til å respondere upassende på en del vanlige og kritiske tilstander i realistiske terapiscenarier. Dette skjer ifølge forskerne ved at modellene – som Altman altså selv antydet – forsterker brukernes vrangforestillinger.

Forskerne pekte på at dette kan ha sammenheng med KI-modellenes ettergivenhet, eller «smisking» med brukerne – et problem Open AI selv redegjorde for på nettsidene sine i april. Selskapet rullet da tilbake GPT-4o-oppdateringen, med den begrunnelse at modellen ga svar som var i overkant støttende og enige med brukeren, men på bekostning av sannferdigheten i svarene.