KI-toppenes bremseplan møter et problem

Anthropic-sjef Dario Amodei etterlyser strengere regulering av utviklingen av de kraftigste KI-modellene.

I et essay publisert lørdag foreslår han flere tiltak som skal sikre at sikkerhetsarbeidet holder tritt med utviklingen.

Bård Standal, partner i advokatfirmaet Schjødt, peker samtidig på et grunnleggende problem: Ingen har myndighet til å håndheve en KI-brems globalt.

Han påpeker at det ikke finnes noe globalt organ som kan kontrollere KI-selskapene og håndheve felles regler, og at det kan ta flere år å etablere et slikt system.

Ulik tradisjon for regulering

Det skyldes blant annet at land har ulike tradisjoner for hvordan slike utfordringer reguleres, mener han.

– I Europa har vi en sterk tradisjon for myndighetsregulering, forklarer han og peker på regelverk som EUs AI Act, og forslaget om Cloud and AI Development Act.

Standal peker på at europeiske myndigheter forsøkte å regulere KI før de største problemene oppsto.

– I USA er tradisjonen for selvregulering sterkere, sier han.

– Der utvikler man først og begynner å regulere når man oppdager at det har oppstått et problem.

Når de amerikanske selskapene nå ønsker felles bransjestandarder, stiller Standal spørsmål ved motivene.

– Strengere regulering vil blant annet gjøre det vanskeligere for mindre konkurrenter å hevde seg, forklarer han.

Dermed kan reguleringen både redusere reell risiko, men også styrke selskapene som allerede leder KI-kappløpet.

Fangens dilemma

Dario Amodei erkjenner selv at en global pause i KI-utviklingen er lite sannsynlig på kort sikt.

«De geopolitiske interessene er så store at det trolig vil være grenser for hva som kan oppnås, særlig i starten», skriver Anthropic-sjefen.

Dersom USA bremser utviklingen og Kina ikke gjør det samme, frykter han et kinesisk forsprang.

Standal peker på det samme dilemmaet.

– USA vil alltid mistenke Kina for juks, og motsatt, sier Standal.

– Når begge frykter at motparten jukser, får de selv et insentiv til jukse selv.

Han mener derfor at landene må bygge gjensidig tillit før et felles regelverk kan komme på plass.

Spørsmål om uavhengighet

Anthropic-sjefen foreslår i essayet sitt at uavhengige kontrollører skal få tilgang inne hos KI-selskapene.

Amodei skriver at selskapet har forpliktet seg til tiltaket, og vil selv inngå avtale med uavhengige kontrollører.

De skal få omfattende innsyn og kunne publisere kritiske funn, men selskapet vil fortsatt kunne begrense tilgangen og sladde enkelte opplysninger.

– Spørsmålet er hvor uavhengige de eksterne kontrollørene vil være, sier Standal.

Dersom selskapene som skal kontrolleres får for stor innflytelse over kontrollordningen, frykter Standal regulatorisk fangst.

Med det mener han at kontrollordningen tjener bransjens interesser overfor samfunnets.

Skiller mellom KI og AGI

Senioradvokat i Wikborg Rein Mathias Hauglid peker på noe av det samme som Standal.

Han mener at KI-selskapene kan ha bedt om regulering for å få være med på å utforme forslag som de selv er fornøyd med.

Hauglid jobber med teknologi og digitalisering og mener KI-utviklingen absolutt bør reguleres.

Samtidig skiller han mellom regulering av KI og AGI.

Sistnevnte er ideen om KI som kan lære og løse oppgaver på menneskelig nivå.

– Det er den type KI man frykter at kommer ut av kontroll, sier Hauglid.

Ifølge er denne typen KI så mektig at regulering må skje på mellomstatlig nivå.

– En idé er å lovfeste å ivareta menneskets verdi og kontroll i Grunnloven eller i menneskerettighetene, sier Hauglid.

I tillegg mener han at KI-selskaper burde være lovpålagt å måtte dokumentere at de kan stanse systemene de utvikler.

– Hvis ikke de har en nødbrems som fungerer, så kan ikke de få lov til å holde på.

Raskere utvikling

Både Hauglid i Wikborg Rein og Standal i Schjødt mener at EUs AI Act i hovedsak fungerer etter hensikten når det gjelder vanlig bruk av KI.

Utviklingen av de kraftigste modellene og risikoen de kan utgjøre for samfunnet, krever derimot en annen type regulering.

– Der er det vanskelig å se for seg en løsning uten en overordnet internasjonal KI-konvensjon som verdens land slutter seg til, kanskje etter modell av Parisavtalen, sier Standal.

– Utfordringen er at det trolig vil ta mange år.

Men utviklingen av KI går raskt, og Standal mener at myndigheter og bransjen får stadig kortere tid til å planlegge og reagere.

– Vi er på vei inn i en utvikling hvor teknologien åpenbart beveger seg raskere enn reguleringsmyndighetene klarer å følge med, sier Standal.

– Du kan ikke sette KI og risikobildet på agendaen for styresamlingen i mai neste år og tenke at problemet dermed er håndtert.