Sikkerhetsleder forlater Open AI: – Jeg har nådd et bristepunkt

Fokuset til de fleste aktørene som konkurrerer på KI-arenaen er nye produkter og tjenester, det ene gjerne mer imponerende enn det neste. En del er imidlertid også opptatt av sikkerhet, i en slik grad et de er villige til å forlate stillingen sin for å understreke et poeng.

En høytstående medarbeider hos Open AI har nå tatt hatten sin og gått på grunn av sterke bekymringer rundt KI-sikkerhet og selskapets prioriteringer. Blant andre avisen The Guardian rapporterte om saken.

Nådde et bristepunkt

Jan Leike var en av lederne av Open AIs såkalte «alignment»-avdeling, som jobber med å sikre at KI-teknologien utvikles i samsvar med menneskelige verdier, intensjoner og etiske prinsipper.

Som Leike selv opplyste på Twitter/X forrige uke forlot han Chat GPT-skaperen den 16. mai, og i en serie påfølgende meldinger forklarer han hvorfor.

– Jeg ble med fordi jeg trodde Open AI ville være det beste stedet i verden å gjøre denne type forskning. Jeg har imidlertid vært uenig med Open AIs ledelse om selskapets kjerneverdier i lengre tid, før vi til sist nådde et bristepunkt, skriver Leike i en av meldingene.

I en annen melding påpeker han at sikkerhetskulturen -og prosessene hos selskapet har havnet i bakgrunnen til fordel for «glitrende» produkter.

Han følger opp med å understreke de store farene rundt kunstig intelligens-teknologi, og han er særlig bekymret for AGI-teknologien – kunstig, generell intelligens.

– Farlig prosjekt

AGI, eller KGI som det kan forkortes på norsk, dreier seg om KI-teknologi som er så avansert at den kan forstå, resonnere og løse oppgaver på samme nivå – eller høyere – enn mennesker.

– Å bygge maskiner som er smartere enn mennesker er en iboende farlig bestrebelse. Open AI har et enormt ansvar på skuldrene sine på vegne av hele menneskeheten, skriver Leike og fortsetter:

– Det er på høyt tid å bli utrolig seriøse om implikasjonene til AGI. Vi må prioritere å forberede oss på dem så godt vi kan. Bare da kan vi sikre at AGI vil tjene hele menneskeheten.

Open AI-sjefen selv, Sam Altman, svarte offentlig på Leikes fratredelse i en egen melding hvor han innrømmer at selskapet ennå har en lang vei å gå når det gjelder sikkerhet.

– Jeg setter stor pris på Jan Leikes bidrag til Open AIs sikkerhetsforskning og sikkerhetskultur, og det er trist å se ham gå. Han har rett: vi har mye mer å gjøre, og vi har forpliktet oss til å gjøre det, skriver Altman.

Store fordeler

President og medgrunnlegger av Open AI, Greg Brockman, skrev en lengre respons hvor han bedyrer at selskapet allerede har belyst risikoen og mulighetene som ligger i AGI-teknologien slik at verden kan forberede seg.

Samtidig innrømmer Brockman at det ikke finnes en «manual» for hvordan man bør tilnærme seg kunstig, generell intelligens.

Open AI publiserte tidligere en lengre tekst på nettsidene sine hvor selskapet belyser både farene og fordelene med AGI-teknologien, og understreker at sikkerhet alltid har stått i fokus.

– Siden fordelene ved AGI er så store, tror vi ikke det er mulig eller ønskelig for samfunnet å stanse utviklingen for alltid. I stedet må samfunnet og utviklerne av AGI finne ut hvordan vi kan gjøre det riktig, skriver Open AI.