Kan KI utslette oss? Dette sier ekspertene

I KI-bransjen pågår en høylytt diskusjon om hvorvidt teknologien kan true menneskehetens eksistens. Debatten skjøt fart da Jacob Coxon sluttet i Anthropic og på X anklaget de ledende KI-selskapene for å gamble med menneskeliv.

Lederen for Anthropics arbeid med modelltilpasning, Evan Hubinger, fulgte opp med å si at selskapet oppriktig tror at KI kan utslette menneskeheten.

Han anslo selv risikoen til over 10 prosent det neste tiåret.

Hvordan vil en slik hendelse eventuelt kunne se ut, og hvor realistisk er det? Dette sier ekspertene.

Virus og droner

Kristian Wold i den den ideelle organisasjonen Tryggere KI mener at menneskelig utslettelse ikke direkte kan avvises.

– Hvis systemene blir autonome og følger mål som ikke er i samsvar med våre, er det illevarslende, sier Wold.

Han viser til sommerens hendelser, der KI-agenter handlet utenfor grensene mennesker hadde satt for dem.

– Hvis denne typen systemer blir mye smartere, men fortsatt er vanskelige å kontrollere, kan skadepotensialet bli enormt.

Hvordan en superintelligent KI eventuelt skulle ha utslettet menneskeheten, er imidlertid umulig å forutse, understreker Wold.

– Det blir som å gjette på hvordan Magnus Carlsen ville slått meg i sjakk. Hvis jeg kunne forutse alle trekkene hans, ville jeg vært like god som ham.

En superintelligent KI kunne i teorien ha utviklet et dødelig virus eller produsert store mengder små, autonome droner, mener Wold.

– Men dette er spekulativt. Jeg vet ikke hvordan en superintelligens ville gjort det.

Svakt datagrunnlag

Michael Riegler, som er professor i KI og maskinlæring ved Oslo Met, mener det er umulig å forutse hvor langt vi har kommet på KI-fronten om ti år.

Men at menneskeheten vil være utslettet, tror han ikke noe på.

– Ut fra det vi har sett til nå, tror jeg ikke at KI kan føre til en utryddelseshendelse, slik det snakkes om, sier Riegler.

Han peker på at spådommene til Coxon og Hubinger bygger på et svakt og usikkert datagrunnlag.

– Vurderingene spriker kraftig og kommer ofte fra såkalte KI-eksperter som ikke nødvendigvis har fagkompetanse på området.

Riegler mener eksperter på områdene KI kan true, ikke nødvendigvis deler krisescenariene som tegnes opp av KI-bransjen.

Advarslene kan dermed bli forsterket i en KI-boble der de samme miljøene vurderer både teknologiens evner og konsekvensene av dem.

– Dessuten må man ikke stole på hvem som helst, legger Riegler til.

– Vet vi nok om hva Coxon og Hubinger faktisk jobbet med? Hadde de tilgang til hele systemet og nok kunnskap til å komme med slike påstander? Det ville jeg stilt spørsmål ved.

Det er likevel viktig å ikke avskrive farene med uansvarlig utvikling av KI, mener Riegler.

– Jeg sier ikke at vi ikke skal ta risikoen alvorlig, men vi må puste litt med magen.

Upålitelig teknologi

Ole-Christoffer Granmo, som er leder av Senter for forskning på kunstig intelligens (CAIR), mener også at det grunn til å ta utviklingen på alvor.

– Teknologien har blitt mye kraftigere på kort tid, og faren, slik jeg ser det, er at teknologien fremdeles er upålitelig.

Derfor mener han det avgjørende er hvor mange oppgaver vi overlater til KI.

– Systemene vil alltid kunne gjøre ting eller utnytte mulighetsrommet på uventede måter.

Det er altså kombinasjonen av stadig kraftigere teknologi og manglende kontroll som kan gjøre KI skadelig.

– Risikoen oppstår både når systemene får handle på egen hånd og når mennesker stoler for mye på dem, forklarer han.

KI i våpen

Riegler og Granmo skiller mellom to ulike fremtidsscenarioer.

Det ene er det science fiction-pregede scenarioet der KI på egen hånd tar kontroll over roboter og andre fysiske systemer, slik vi kjenner det fra «The Terminator» og «The Matrix».

Et slikt scenario mener de er svært usannsynlig.

Den mer realistiske faren er at mennesker gir upålitelige KI-systemer for mye makt, som tilgang til våpen og kritisk infrastruktur.

KI brukes allerede til blant annet dronestyring, beslutningsstøtte og oppdagelse av trusler, og Røde Kors har tidligere advart mot bruk av KI til militært bruk.

Blant annet peker de på risikoen rundt autonome våpen, overdreven tillit til KI-anbefalinger og cyberangrep som kan ramme sivil infrastruktur.

– Et reelt scenario kan være at noen bruker KI til å angripe et energisystem, forklarer Riegler.

Men veien til selvtenkende KI-roboter er ikke bare lang, men kanskje heller ikke realistisk, mener Riegler.

– KI-modeller tenker ikke

– At KI på egen hånd tar kontroll over fysiske systemer, mener jeg er svært urealistisk akkurat nå, sier Riegler.

Han forklarer at teknologien bak dagens modeller ikke fungerer som hjernen vår.

– KI-modeller tenker ikke «I morgen skal jeg drepe mennesker».

Riegler mener dessuten av science fiction-teoriene overvurderer menneskets betydning for KI.

– Hvorfor skulle en superintelligens starte krig mot mennesker når den kunne dratt ut i verdensrommet og levd uten oss, spør Riegler.

– For meg gir ikke det mening.