Open AI truer Chat GPT-brukere med bannlysning hvis de spør hvordan den nyeste modellen fungerer

Nylig lanserte Open AI sin nyeste KI-modell døpt «OpenAI o1» – en avansert modell som skal være i stand til langt mer sofistikert resonnering enn tidligere modeller.

Nå kan det se ut til at denne modellen kjører på teknologi som Open AI ønsker å holde strengt hemmelig.

Blant andre nettstedet Ars Technica fanget nylig opp at Chat GPT-brukere har begynt å motta advarsler fra Open AI dersom de forsøker å finne ut hvordan den nye, avanserte modellen fungerer.

Truer med utestengelse

På flere sosiale medieplattformer og internettfora, blant annet på X, forteller brukere at de har mottatt e-poster fra Open AI som opplyser at aktiviteten representerer brudd på tjenenestens retningslinjer og at man risikerer utestengelse fra den nye 01-modellen.

Noen hevder at e-postene kommer hver gang de bruker frasen «reasoning trace», altså når det spørres om selve resonneringsprosessen, i samtaler med o1-modellen.

En bruker ved navn Riley Goodside, som jobber hos det amerikanske KI-selskapet Scale AI, la ut et skjermbilde som bekrefter at frasen «reasoning trace» utløser tjenestens sikkerhetsmekanismer, selv i en språklig kontekst hvor det ikke spørres spesifikt om innsyn i prosessen.

Andre forteller at bare det å stille spørsmål angående resonneringen generelt vil trigge utsendelsen av e-postene.

I en lenke på en bruker la ut på X kommer det at Open AI truer med utestengelse fra o1-modellen dersom man fortsetter å spørre om den underliggende prosessen.

Vil overvåke modellen selv

Da Open AI lanserte den nye modellen sin opplyste selskapet i blogginnlegget at det å skjulte selve tankerekken i sin i rå form er et bevisst valg. Bakgrunnen for dette er at Open AI selv ønsker å overvåke resonneringsprosessen, og da må prosessen holdes «ren».

– For eksempel kan vi i fremtiden ønske å overvåke tankerekken for tegn på manipulering av brukeren. For at dette skal fungere, må imidlertid modellen ha frihet til å uttrykke sine tanker i uendret form, så vi kan ikke trene inn noe retningslinjeoverholdelse eller brukerpreferanser i tankerekken. Vi ønsker heller ikke å gjøre en ikke-tilpasset tankerekke direkte synlig for brukerne, skriver Open AI.

Selskapet innrømmer at dette valget har sine ulemper, og for å delvis veie opp for dette valget er o1-modellene i stand til å vise en «oppsummering» av tankerekken som selv er KI-generert.

Den nye resonneringsmodellen har ifølge Open AI allerede gjort det skarpt i diverse tester. I ytelsesmålinger som tester ferdigheter innen fysikk, kjemi og biologi skal den yte på nivå med doktorgradsstudenter, og også innen matematikk og koding skal den ha utmerket seg stort.

Mer informasjon om modellen finner man i blogginnlegget.