KI-trusselen må møtes med samarbeid og konkurranse

Påstandene fra KI-selskapet Anthropic om at KI kan ødelegge menneskeheten, har aktualisert spørsmålet om hvordan potensielt livsfarlig KI kan reguleres og kontrolleres. Det har tidligere vært vanlig å sammenligne KI-kappløpet med romkappløpet. Nå har atomkappløpet brått tatt over som gjeldende metafor, i alle fall hvis vi skal ta de mest bekymrede KI-forskerne på alvor. Da må også diskusjonen om kontroll med KI-systemer gjennom lovgivning forflytte seg.

Inntil nylig har diskusjonen om KI-regulering stort sett dreid seg om EUs KI-forordning (AI Act). Men AI Act retter seg mot KI-systemer som gjøres tilgjengelige på markedet. Forordningen gjør dessuten eksplisitt unntak for KI-systemer ment for forsknings- og utprøvingsformål – selv innenfor Europas grenser – og for bruk av KI til militære eller nasjonale sikkerhetsformål.

Kort sagt: AI Act angår ikke bruksområdene der KI hevdes å utgjøre en eksistensiell trussel mot menneskeheten. Å se mot EU-regulering og AI Act når en bekymrer seg for KI-apokalypsen, er som å forvente at forskriften som gjelder for nyttårsraketter skal beskytte oss mot atomulykker.  

KI-nedrustning?

At verdens land forplikter seg overfor hverandre gjennom folkerettslige avtaler, er det eneste konseptet fra jussens verden som i prinsippet kan ha noe for seg nå. Statsminister Jonas Gahr Støre (Ap) og Finlands president Alexander Stubb er på riktig spor når de tar initiativ til et internasjonalt opprop for å få kontroll på KI-utviklingen. Spørsmålet er hvilke tiltak det er mulig å få gjennomført i praksis.

Nå som atomvåpenparallellen er aktivert, er det logiske neste skrittet egentlig å foreslå en slags nedrustningsavtale inspirert av folkerettslige traktater om kjernefysiske våpen. Men en algoritmisk nedrustning kommer neppe til å skje. Det er for usikkert hvor stor risikoen fra KI egentlig er, og det er for mye å vinne på å være ledende innen KI, både økonomisk og sikkerhetsmessig.

Den finske presidenten har forstått at det ikke blir noen enighet om redusert aktivitet innen KI. Han har uttalt at valget står mellom brems, konkurranse og samarbeid. Fra denne menyen foretrekker han samarbeid. Hadde det bare vært Norge og Finland som skulle finne en løsning, kunne man kanskje ha satt konkurranseelementet til side, slik Stubbs uttalelse legger opp til.

Når stormaktene kalles til forhandlingsbordet, er konkurranse imidlertid uunngåelig på KI-feltet. Alle som har forsøkt å samarbeide med en direkte konkurrent, vet at det kan bli anspent. Konkurransesituasjonen setter grenser for hvor mye åpenhet og gjensidig rapportering (sentrale punkter i det ferske oppropet) eksempelvis USA og Kina kommer til å forplikte seg til overfor hverandre.

Nødbrems trengs!

Mellomstatlige løsninger mot potensielt apokalyptisk kunstig intelligens kan bare oppnås dersom statene finner en balanse mellom konkurranse og samarbeid som stormaktene kan leve med. Det er naturlig at statene forplikter seg til å holde selskapene og personene som driver med utprøving av de mest avanserte teknologiene økonomisk og strafferettslig ansvarlig, men straff og erstatningsansvar er til liten nytte hvis apokalypsen faktisk inntreffer.

Det som bør være mulig å få til, er løsninger der hver enkelt stat forplikter seg til å vedta nasjonal lovgivning som krever at aktører som eksperimenterer med de mest potente KI-teknologiene, har en effektiv, dokumentert nødbrems på plass. For at slike krav skal gi noen beskyttelse mot KI som eksistensiell trussel, må kravene også gjelde statenes egne aktiviteter, selv når aktivitetene ligger tett opp mot nasjonale sikkerhets- og forsvarsinteresser.

Hvis statene underlegger seg tilsyn fra uavhengige tredjeparter, vil det signalisere samarbeidsvilje. Hvordan eksternt tilsyn med potensiell superintelligens skal kunne bli effektivt i praksis, blir i så fall ett av de store spørsmålene fremover.

Forbrukerrådet ber kjedene stanse salget av KI-briller