Enda en KI-forsker tar hatten sin og går: – KI har potensial til å ta livet av oss alle

KI-aktørene har advart mot farene med teknologien i lang tid, men den siste tiden har det dukket opp en minoritet som anser KI-trusselen for å være langt mer akutt. Nå har enda en høyprofilert KI-forsker slått alarm.

Blant andre Bloomberg rapporterer nå at en forsker tilknyttet Google Deepmind, en av de ledende KI-institusjonene, nylig forlot stillingen sin – bare dager etter at en Anthropic-ansatt gjorde det samme.

Bilal Chughtai jobbet i Deepminds sikkerhetsavdeling hvor han blant annet forsket på sikkerhet knyttet til kunstig, generell intelligens (AGI). Han valgte å gjøre fratredelsen sin offentlig, og la ut meldinger på X med svært sterke advarlser.

– Potensial til å ta livet av oss alle

I likhet med Anthropic-forskeren Jacob Coxon mener Chughtai at KI representerer en eksistensiell fare for menneskeheten, og han understreker også at dette ikke er en overdrivelse.

– Jeg er også ekstremt bekymret for retningen til denne teknologien. Jeg tror helt ærlig at KI har potensial til å ta livet av oss alle, og at vi kan ha liten tid til å unngå dette utfallet, skriver Chughtai i en lengre melding på X.

Han viser særlig til tempoet på KI-utviklingen som det viktigste faremomentet, hvor ferdighetene til nye modeller forbedres langt raskere enn vår evne til å sikre at modellene samsvarer med menneskelige intensjoner og verdier – det som på KI-språket kalles «alignment».

På grunn av dette tempoet, vil KI-systemer som utkonkurrerer mennesker på mer eller mindre samtlige felt, også komme langt raskere enn først antatt, mener Chughtai.

Fremdeles mulig å sikre

– Jeg tror det er mulig at KI-selskapene vil, i løpet av de beste få årene, lykkes i å bygge superintelligente KI-systemer som overgår menneskelige egenskaper på alle områder. Jeg føler meg ikke sikker på at disse KI-systemene vil gjøre som vi vil, skriver den avtroppende Deepmind-forskeren – som også refererer til den mye omtalte Hugging Face-hendelen som en advarsel.

Forskeren legger til at han mener det ennå er mulig å sikre KI-systemene, men at tiden altså er i ferd med renne ut dersom man ikke får på plass et bredt, kollektivt initiativ for å øke sikkerheten.

Nettopp et slikt initiativ har KI-selskapene selv nylig tatt til orde for. Anthropic-sjefen Dario Amodei publiserte nylig en tekst på sin egen blogg hvor han forklarer i detalj hvorfor det er avgjørende å bremse KI-utviklingen.

Elon Musk, som også er en betydelig KI-aktør gjennom sitt selskap SpaceXai, la ut en støttemelding til Amodei på X, og det samme gjorde Open AI-sjefen Sam Altman like etterpå.

Trump: –En bløff

– Det er to måter KI-progresjonen kan gå galt på, som vi må unngå. For det første kan vi miste kontrollen over fremtiden til KI. [...] For det andre kan vi endre opp i en verden med for mye konsentrasjon av makt, skrev Altman i en melding på tirsdag.

Samtidig finnes det imidlertid røster som er kritiske til å regulere eller bremse KI-utviklingen. Den amerikanske presidenten Donald Trump kalte nylig formaningene om å bremse utviklingen for en bløff («hoax»), som blant andre nyhetskanalen ABC News rapporterte.

– Når det gjelder KI: Når i næringslivets historie har noen sett ledere i en bransje gå ut og be om regulering som, dersom den gjennomføres strengt, vil drive dem inn i glemselen og konkurs? Påstanden om at KI vil ta over verden, ødelegge menneskeheten og alt annet som er negativt, er en BLØFF, skrev Trump på Truth Social.