KI-gigantene vil trekke i bremsene: – Som en ukontrollert kjernefysisk kjedereaksjon

KI-utviklingen har gått unna i et hysterisk tempo lenge nok til at truslene begynner å nærmere seg et kritisk punkt. Ironisk nok er det KI-selskapene selv som kommer med de sterkeste advarslene, og nå har vi fått det kanskje mest betydningsfulle oppropet hittil.

«Pacing the Frontier» er navnet på en stor underskiftskampanje som nylig ble startet for å oppfordre statlige myndigheter til å begynne å ta KI-regulering på alvor.

Blant andre Bloomberg rapporterte først om saken.

Advarer mot automatisert KI-utvikling

Oppropet er i skrivende stund signert av over 1100 ansatte i samtlige av de toneangivende KI-selskapene, inkludert Google Deepmind, Open AI, Anthropic og Meta AI.

I en felles uttalelse tar selskapene til orde for et internasjonalt initiativ for å lage verktøy som kan bidra til å bremse KI-utviklingen – nærmere bestemt den automatiserte utviklingen som selskapene snart vil være i stand til å realisere.

– Verdens ledende KI-selskaper mener at de kan være nær ved å automatisere KI-forskning. Det er vanskelig å forutsi nøyaktig hvor mye dette vil akselerere utviklingen av kunstig intelligens, men det finnes en reell risiko for at utviklingen av KI-kapasiteter vil akselerere så raskt at den overgår vår evne til å forstå eller kontrollere systemene som oppstår, heter det i uttalelsen.

Nettsiden til initiativet har allerede en lang rekke kommentarer fra ansatte hos KI-selskapene, hvorav mange uttrykker stor bekymring og et dypt alvor rundt situasjonen.

«Enestående» sikkerhetsrisikoer

– Verden er låst i et livsfarlig kappløp mot en intelligenseksplosjon, der KIs evne til å utvikle stadig bedre KI-systemer når et kritisk punkt – på samme måte som en ukontrollert kjernefysisk kjedereaksjon, heter det i en kommentar forfattet av Leo Gao, ansatt hos Open AIs tekniske team.

En Anthropic-medarbeider skriver at stadig mer av arbeidet innen KI-utvikling utføres av KI-modellene selv, og at dette har økt progresjonstempoet kraftig. Flere andre peker på tempoet på utviklingen som en stor fare.

– KI utvikler seg i et tempo samfunnet vårt kanskje ikke er forberedt på. De ledende KI-laboratoriene er svært nær å utvikle KI som kan overgå selv de dyktigste menneskene på nesten alle mål for intelligens. Dette vil føre til enestående samfunnsmessige utfordringer og sikkerhetsrisikoer, skriver sjefsforsker hos Meta AI, Shengjia Zhao.

Det kan fremstå som noe paradoksalt at KI-selskapene både advarer mot teknologien og samtidig utvikler og forbedrer den i et rasende tempo.

Allerede faretegn

Flere av kommentarene i oppropet bemerker imidlertid at dette har sammenheng med den intense konkurransen mellom KI-selskapene, og at ingen enkeltaktører på eget initiativ vil påta seg å sette bremsene på – som altså er grunnen til at selskapene selv nå ønsker sterkere statlig innblanding.

Faren for å miste kontrollen over KI-teknologien, har vi allerede så smått begynt å se noen tegn til. Nylig havnet for eksempel Open AI i søkelyset etter at selskapets modeller gjennomførte et dataangrep mot teknologiselskapet Hugging Face over flere dager, helt på egen hånd. Hendelsen bidro til etableringen av alliansen Open Secure AI Alliance.

Det har også tidligere blitt tatt til orde for strengere regulering av KI. Anthropics medgrunnlegger Chris Olah har uttalt at utviklingen av KI ikke kan overlates utelukkende til teknologiselskaper og oppfordret til større tilsyn fra eksterne parter.