Slik skal Open AI gjøre Chat GPT tryggere å bruke

Med flere hundre millioner brukere er det uunngåelig at ikke alle interaksjoner med Chat GPT er like helsebringende – og i et av de mer ekstreme tilfellene har snakkeroboten til og med blitt anklaget for å oppmuntre til selvmord.

Open AI tar imidlertid problemet tilsynelatende på alvor, og på tirsdag la selskapet frem sin plan for å gjøre Chat GPT vesentlig sikrere å bruke, og da særlig for mennesker i en sårbar situasjon.

Samarbeid med leger og eksperter

KI-giganten opplyser at de har inngått et samarbeid med leger og eksperter som skal bidra til forskning rundt KI-modellenes adferd overfor utsatte brukere.

Selskapet sier de allerede har mottatt bidrag fra over 90 leger fra til sammen 30 land, deriblant psykiatere, barneleger og allmennpraktiserende leger.

Bidragene dreier seg om hvordan KI-modellene bør oppføre seg i en mental helse-kontekst, og skal aktivt anvendes i Open AIs egen forskning rundt sikkerhet, trening av modellene og i andre sammenhenger.

Samarbeidet skal gjøre det mulig for Open AI å konsultere de relevante spesialistene ved behov, opplyses det. Selskapet planlegger å knytte til seg stadig flere spesialister, blant annet personell med ekspertise innen spiseforstyrrelser, rus og helse for unge mennesker.

Den andre nyheten er at Open AI i større grad vil bruke resonneringsmodellene sine til å håndtere de sensitive samtalene – da disse er langt bedre til denne type oppgaver, ifølge tester som selskapet selv har utført.

Chat GPT får foreldrekontroll

Den nylig lanserte GPT-5-modellen kommer både med en innebygget resonneringsmodell og en «sanntidsruter» som kan omdirigere samtaler til ulike modeller ved behov.

Open AI vil bruke denne funksjonaliteten til å flytte samtaler til resonneringsmodellen når Chat GPT registrerer akutte, mentale nødstilfeller og på den måten tilby mer nyttige og konstruktive svar. Dette vil fungere uavhengig av hvilken modell brukeren benytter.

Ikke minst skal Open AI få på plass foreldrekontroll i Chat GPT. Dette fungerer ved at foreldre kan koble sin konto til sin tenåringssønn/datters konto via en enkel e-postinvitasjon. Foreldre kan også kontrollere hvordan Chat GPT responderer for å forsikre at modellen gir passende svar, basert på alderstilpassede regler for adferd.

En annen fullmakt som foreldrekontroll-funksjonen gir, er muligheten til å deaktivere bestemte funksjoner, slik som hukommelsesfunksjonen og chathistorikken. Foreldre vil også kunne motta varslinger dersom KI-modellen registrerer tegn på at tenåringsbarnet opplever mentalt stress.

Den nye foreldrekontrollen skal rulles ut i løpet av den neste måneden. Ifølge Open AI er dette imidlertid bare begynnelsen, og selskapet kommer til å dele flere detaljer om arbeidet de kommende månedene.

Har selv kommet med advarsler

Open AI selv har tidligere uttrykt bekymring for måten mange bruker Chat GPT på. Som Digi rapporterte la sjef Sam Altman nylig ut en melding på X hvor han kommenterer folks tilbøyelighet til å bruke KI-modellen som terapeut.

– Mange mennesker bruker Chat GPT som en slags terapeut eller livsveileder, selv om de ikke vil beskrive det på den måten. [...] Jeg kan forestille meg en fremtid hvor mange mennesker virkelig stoler på Chat GPTs råd når det gjelder sine aller viktigste beslutninger. Selv om det kan være bra, gjør det meg urolig, skrev Altman.

Digi har også tidligere fortalt om en studie utført av amerikanske forskere som konkluderer med at man bør være høyst skeptisk til å benytte språkmodeller som Chat GPT som sin personlige terapeut.