Hvem kontrollerer dem som kontrollerer KI?

Vi har brukt enorme ressurser på å sikre teknologien. Nå må vi bli like gode til å forstå risikoen rundt menneskene som kontrollerer den.

Et gammelt sikkerhetsproblem har dermed fått en ny aktualitet: Fremmede etterretningstjenester trenger ikke nødvendigvis å bryte seg inn i de mest avanserte systemene. Noen ganger kan veien inn gå gjennom mennesker på toppen.

I min tid i Overvåkingspolitiet var metodene annerledes. Teknologien var enklere.

Men én ting har ikke forandret seg:

Mennesket er fortsatt en sårbarhet.

Nvidias grunnlegger og toppsjef Jensen Huang har erkjent at han hadde et utenomekteskapelig forhold til Alice Huang. Ifølge CNBC har amerikanske etterretningsmyndigheter uttrykt bekymring for at hun kan ha formidlet informasjon til Beijing. Nvidias styre har startet en uavhengig gransking av påstandene. Styret understreker samtidig at det ikke har grunn til å tro at verken selskapets hemmeligheter eller amerikansk nasjonal sikkerhet er kompromittert.

Det er et viktig forbehold.

Torsdag ettermiddag bekrefter Nvidia at Huang går av som toppleder i selskapet. 

Men saken reiser et større spørsmål: Hva skjer når mennesket på toppen av en av verdens viktigste teknologibedrifter selv blir målet for en mulig etterretningsoperasjon?

Fra dokument til mennesket

I min tid i Overvåkingspolitiet hadde hemmeligheter ofte en fysisk form. Dokumenter skulle kopieres, fotograferes og overleveres. Samtaler ble avlyttet. Agenter måtte rekrutteres.

Menneskelige svakheter var også den gang blant etterretningstjenestenes viktigste innganger.

Penger. Ideologi. Ego. Press. Relasjoner.

Og noen ganger det klassiske virkemiddelet: honningfellen.

Teknologien har endret seg dramatisk siden den gang.

Mennesket har ikke gjort det.

Det er kanskje det mest interessante ved Nvidia-saken. Mens vi bruker stadig mer avansert teknologi for å beskytte systemer, informasjon og infrastruktur, kan inngangen til sensitiv kunnskap og strategisk påvirkning fortsatt være like gammel som etterretningen selv.

Når topplederen blir målet

Tradisjonelt har innsiderproblematikk handlet om personer som bevisst eller ubevisst gir uvedkommende tilgang til informasjon, systemer eller verdier.

Men dagens sikkerhetsutfordring strekker seg lenger enn den klassiske innsiderproblematikken.

Hva skjer når personen det gjelder sitter helt på toppen?

En konsernsjef behøver ikke overlevere hemmelige dokumenter for å være interessant for en fremmed etterretningstjeneste.

Han kjenner strategiene. Teknologien. Kundene. Partnerne. Diskusjonene. Konfliktene. Sårbarhetene.

Og kanskje enda viktigere: Han kan påvirke beslutninger.

Derfor bør sikkerhetsspørsmålet ikke bare være: Hvilken informasjon kan ha kommet på avveie?

Men også: Hvilken innflytelse kan ha blitt oppnådd?

Moderne etterretning handler ikke bare om å stjele hemmeligheter. Tilgang til sentrale beslutningstakere kan også gi innsikt i vurderinger, relasjoner, prioriteringer og beslutningsprosesser.

Jo viktigere personen er, desto større kan verdien av tilgangen være.

Dette angår også Norge

Problemstillingen er også relevant for norske myndigheter og virksomheter.

Ikke fordi vi i dag vet at Nvidia-teknologi er kompromittert. Det gjør vi ikke. Nvidias styre har tvert imot uttalt at det foreløpig ikke har grunn til å tro at selskapets hemmeligheter eller amerikansk nasjonal sikkerhet er kompromittert.

Men saken synliggjør en større og mer grunnleggende problemstilling:

Hvor mye av vår digitale infrastruktur og KI-utvikling bygger på selskaper, teknologi og beslutningstakere vi selv ikke kontrollerer?

Når KI blir en stadig viktigere del av offentlig forvaltning, kritisk infrastruktur, forsvar og industri, kan sikkerhetsvurderingene ikke stoppe ved tekniske spesifikasjoner.

Vi må også forstå eierskap, leverandørkjeder og avhengigheter.

Og menneskene som kontrollerer teknologien.

For spørsmålet er ikke bare: Kan vi stole på kunstig intelligens?

Det er også: Kan vi stole på menneskene som kontrollerer den?

Og kanskje viktigere for Norge: Har vi gode nok systemer for å vurdere menneskelig, strategisk og etterretningsmessig risiko hos leverandørene vi gjør oss stadig mer avhengige av?

Hvem kontrollerer dem som kontrollerer KI?

Vi diskuterer hvordan KI skal reguleres, sikres og brukes. Det er nødvendig.

Men kanskje stiller vi ikke det mest ubehagelige spørsmålet:

Hvem beskytter menneskene som kontrollerer teknologien?

For bak selv de mest avanserte systemene står det fortsatt mennesker. Mennesker med relasjoner, interesser og sårbarheter. Mennesker som kan påvirkes.

Derfor kan ikke fremtidens KI-sikkerhet bare handle om modeller, datasentre, programvare og tilgangskontroll.

Den må også handle om menneskene, eierne og avhengighetene bak teknologien.

For Norge blir spørsmålet derfor større enn om vi kan stole på KI: Har vi gode nok systemer for å forstå hvem og hva vi faktisk gjør oss avhengige av?