Kontrollen over KI handler om statssikkerhet

Kampen om kunstig intelligens handler ikke lenger bare om hvem som bygger de sterkeste modellene. Den handler om hvem som får fastsette grensene for hva de kan gjøre, og om grensene kan håndheves når systemene handler.

Da Kinas minister for statssikkerhet, Chen Yixin, nylig beskrev landets KI-risikoer, kom vurderingen fra ledelsen for sikkerhetsapparatet. Han pekte på deepfakes og propaganda, angrep mot kritisk infrastruktur, datalekkasjer, teknologiske monopoler og KI-basert krigføring. Først sto regimets sikkerhet: vern av Kinas politiske og ideologiske stabilitet.

For Beijing er KI-sikkerhet samtidig systemsikkerhet, statssikkerhet og regimesikkerhet. Flere av truslene er reelle også i demokratier. KI kan effektivisere påvirkningsoperasjoner og digitale angrep. Problemet oppstår når staten avgjør hvilke ytringer, modeller og handlinger som er farlige.

Kinesiske rammeverk omtaler også tap av kontroll, selvreplikering og maktsøking. Retningslinjer for KI-agenter krever at utviklere skal kunne oppdage, blokkere og gjenopprette etter uønsket atferd, mens brukeren beholder den endelige beslutningsmyndigheten. Kina avviser altså ikke risikoen. Striden gjelder hvem som skal definere og kontrollere den.

Da Anthropic-sjef Dario Amodei ba om lavere utviklingstempo og strengere amerikansk kontroll med avanserte databrikker, svarte Beijing at forslaget lignet teknologisk innringing. Sikkerhetsregler kan beskytte samfunnet, men også skjerme selskaper og statlig makt. I Kina kan vern mot manipulasjon på sin side gli over i vern mot legitim kritikk.

At et system er under menneskelig kontroll, sier derfor lite før vi vet hvilket menneske, hvilken institusjon og hvilket rettsgrunnlag som utøver kontrollen. I et demokrati må kontroll innebære lovlig og avgrenset myndighet, nok informasjon og tid til å forstå virkningen, reell avbruddsevne og mulighet for etterprøving.

Ustabil frivillighet

USA og Kina befinner seg i et sikkerhetsdilemma. Eksportkontroll, nasjonal datakraft og lukkede forsyningskjeder skal styrke egen sikkerhet, men kan leses som forberedelser til teknologisk dominans. Begge kan handle defensivt og likevel utløse raskere opprustning.

Samtidig flyttes sikkerhetsarbeidet tidligere i utviklingen. Open AI opplyser at selskapet midlertidig har stanset sitt største planlagte forsterkningslæringsløp, skjerpet kravene til dokumentasjon under treningen og utvidet overvåkingen av agenters verktøybruk. Amodei foreslår uavhengige evaluatorer med løpende innsyn. Det er et skifte fra lanseringskontroll til utviklingskontroll.

Men hvem velger evaluatoren, mottar avviksrapportene og kan stanse treningen? Frivillige løfter er sårbare når sikkerhet koster tid, markedsandel eller strategisk kapasitet. Myndighetene trenger derfor kompetanse, datatilgang og rett til å utfordre selskapenes egne sikkerhetsargumenter.

Samarbeid er likevel mulig. Nylig foreslo amerikanske og kinesiske sikkerhetseksperter røde linjer rundt KI og kjernevåpen, menneskelig kontroll over kritiske cyberoperasjoner og en bilateral kanal for KI-hendelser. Forslagene er ikke vedtatt politikk, men de viser hvor konkret felles sikkerhet kan bli når tiltakene avgrenses og kan kontrolleres.

Et kontrollproblem

Den europeiske sentralbanksjefen Christine Lagarde har advart om at utenlandsk KI kan bli vevd inn i grensekontroll, skatteforvaltning, sykehus, transport og betalingssystemer. Hvis tilgang eller vilkår endres, kan mange sektorer rammes samtidig. Avhengighet blir da et mulig pressmiddel.

Norsk digital suverenitet bør derfor måles i faktisk handlefrihet. Kan kritiske funksjoner videreføres? Kan hendelser granskes? Kan fullmakter trekkes tilbake? Kan leverandør eller modell byttes uten uakseptabelt tap av sikkerhet og tjenesteevne? Norge trenger ikke bygge alt selv, men teknologisk bekvemmelighet må ikke bli strategisk avmakt.

Fire krav

Norge bør stille fire krav før autonome KI-systemer får adgang til kritiske funksjoner:

• Uavhengig evaluering før bruk.

• Teknisk håndhevede og tilbakekallbare myndighetsgrenser.

• Sporbarhet fra beslutningsgrunnlag til handling.

• En realistisk plan for fortsatt drift dersom leverandøren, forbindelsen eller modellen faller bort.

En godkjent modell har ikke dermed legitim myndighet til enhver handling den teknisk kan utføre. En operatør kan være til stede uten å ha tid eller informasjon til å gripe inn. Et system kan fortsette etter at kommunikasjonen er brutt, situasjonsbildet er svekket eller fullmakten burde ha opphørt. Her går skillet mellom overordnet styring og operativ kontroll.

En virksom myndighetsgrense må vise hvem som autoriserte handlingen, hvilket system fullmakten gjaldt for, hvilke grenser som var aktive, og hva som skjedde da situasjonen endret seg. Hvis svarene bare finnes i et styringsdokument eller leverandørens forklaring, er kontrollen svakere enn den ser ut.

Stormaktene nærmer seg hverandre i synet på hva som kan gå galt. Uenigheten gjelder tempo, makt og retten til å sette grensene. Derfor er det ikke nok å kreve at KI skal forbli under menneskelig kontroll. Vi må fastslå hvem som kontrollerer, på hvilket mandat, med hvilke tekniske grenser og under hvilken uavhengig etterprøving.

Fersk rapport:
Alle må ha exit-strategi