Hva kan lille Norge gjøre med en global utfordring som denne? En hel del.
Kunstig intelligens (KI) kan hjelpe oss med å løse universets gåter, øke produktivitet og bekjempe sykdom. Men KI kan også utvikle seg til å bli ondsinnet, bevisst sin egeninteresse, eller bare komme ut av kontroll, slik vi har sett flere eksempler på allerede. Erfaringen fra hackingen av Hugging Face er KI-agenter som, stikk i strid med instruksjonene, finner hverandre, samarbeider, kommer seg på nett og handler ut fra en form for egeninteresse.
KI kan utgjøre et mektig våpen i hendene på terrorister, kriminelle og stater som eksempelvis Iran, som vi vet ikke skyr noen maktmidler. Det blir ikke en mindre risiko ved at utviklingen av KI fremover kan gires opp av KI selv.
Likhetstrekk
Trusselen fra KI har noen likhetstrekk med trusselen fra kjernevåpen. De må ikke havne i feil hender, og kappløpet kan og bør bremses og kontrolleres. Men det kan kun gjøres effektivt gjennom et forpliktende internasjonalt samarbeid. Det har vi erfaring med, ikke minst fra Norges side.
Ikke-spredningsavtalen (NPT) er et internasjonalt samarbeid for å holde atomvåpen i sjakk. Avtalen ble undertegnet i 1968 med støtte fra den tidens største kjernevåpenstater, og den har bestått og utviklet seg gjennom skiftende globale maktforhold. Norge har vært sentrale, selv om vi ikke har slike våpen selv. Blant annet har Norge hatt ansvaret for verifikasjonsarbeidet: At stater kan se hverandre i kortene om hvor mange atomvåpen man har, hvilken type teknologi som utvikles, kontrollregimer med mer.
Anti-KI-våpen
Verden trenger et internasjonalt samarbeid for å stanse utvikling av ondsinnet eller ukontrollert KI. Det gjelder både at stater og teknologiselskaper kan se hverandre i kortene, og at det utvikles et anti-KI våpen mot ondsinnet KI eller ondsinnet bruk av KI. Det må kunne stenges ned effektivt og raskt.
Paradoksalt nok trenger vi KI for å utvikle et sterkt nok anti-KI våpen. Et anti-KI-våpen mangler i dag kommersiell etterspørsel og må utvikles i samarbeid mellom stater og kommersielle selskaper, innenfor et forpliktende internasjonalt samarbeid med spilleregler som alle anerkjenner.
Det bør Norge ta initiativ til, i tråd med vår lange humanitære tradisjon som strekker seg tilbake til Fridtjof Nansen. Ved kommende toppmøte mellom USA og Kina, og på FNs generalforsamling, vil KI-sikkerhet være tema. Det trengs påtrykk fra flere stater enn dem som står fremst i kappløpet.
Regjeringen burde være opptatt av å dempe nedsidene ved KI både gjennom nasjonal og internasjonal politikk, nettopp fordi vi ønsker å dra nytte av alt det positive teknologien kan gi oss. Det innebærer også å ta Høyres forslag i Stortinget på alvor om å lage en strategi for datasentre. Vi ønsker tydeligere krav, hvor tildeling av strøm til dette formålet er mer i tråd med sentrale strategiske interesser som å ivareta kraftnettet, beredskap og egen teknologiutvikling. Det er å håpe at den nye digitaliseringsministeren bryter med det som har vært regjeringens hittil naive holdning om at datasentere er vår tids smelteovner.
Først på arbeidslisten til regjeringen bør stå å ta et initiativ for internasjonalt samarbeid for KI-sikkerhet, etter modell fra Ikke-spredningsavtalen, og samle støtte fra likesinnede land.
Forbrukerteknologi har blitt sikkerhetspolitikk
