Fører kontroll med norsk masseovervåkning: Umulig å ha oversikt

Det står lite om kontroll med kunstig intelligens (KI) i årsmeldingen til EOS-utvalget for 2024, som ble lagt fram forrige uke.

Likevel var dette en sentralt tema på årskonferansen til Stortingets kontrollorgan for de hemmelige tjenestene.

Kjetil Otter Olsen, leder for teknologikontroll i EOS-utvalget, holdt et sjeldent innlegg om hvordan de jobber og noen av teknologiens utfordringer.

Digi fikk ikke anledning til å stille ham spørsmål, men nederst i saken svarer Grete Faremo, utvalgets leder.

En lotterimaskin

Olsen presiserte at foredraget hans var litt hypotetisk. Det er fordi han åpenbart ikke kan gå i detaljer eller røpe gradert informasjon.

Han viste eksempler på hvordan generativ KI, som verden ble kjent med gjennom Chat GPTs gjennombrudd i 2022, kan hallusinere – altså dikte opp informasjon.

Poenget er aktuelt, viser skandalen i Tromsø, der kommunens forslag til ny skolestruktur viste til forskning som ikke eksisterer, som trolig er KI-generert oppspinn.

Uten å nevne Tromsø-saken, understreket Olsen viktigheten av å være kritisk til svar fra kunstig intelligens.

– Den generative KI-en er som en lotterimaskin, som trekker litt tilfeldige ord og bokstaver ut av en hatt, sier han.

Kunstig intelligens har de siste årene gått fra å være veldig spesialisert, og et 70 år gammelt fagområde, til å bli allemannseie, slik han ser det.

– Det dere ser av KI i det daglige, er ikke nødvendigvis det vi ser. Vi ser nok kanskje en større variasjon, sier Olsen litt kryptisk.

– Skjuler seg i enorme informasjonsmengder

Kanskje sikter EOS-utvalgets teknolog til bildeanalyse, løsninger for tale til tekst, i tillegg til tekstbaserte samtaleroboter og sammenstilling eller analyse av ulike kilder, eller noen helt andre bruksområder.

De hemmelige tjenestene, som utvalget skal kontrollere, legger ikke skjul på at de bruker KI, og må gjøre det, uten å røpe detaljer.

Sjef for Etterretningstjenesten, Nils Andreas Stensønes, kommenterte behovet fra scenen, litt senere under konferansen.

– Informasjonsteknologien endrer seg så voldsomt at det er ikke snakk om om vi skal bruke kunstig intelligens, eller ikke. Vi er absolutt nødt til å bruke det. Mengden inn til etterretningstjenesten øker eksponentielt, og det er på ingen måte mulig å kunne håndtere det med å bemanne opp. Derfor må vi bruke KI for å finne de som vil oss vondt, som skjuler seg i disse enorme informasjonsmengdene, sa Stensønes.

Feil inn, gir feil ut

Utvalgets teknologileder Kjetil Otter Olsen gikk noe mer i dybden på algoritmer, som han beskrev som det teoretiske grunnlaget for KI. Det «finnes mange av dem» med «ulike styrker og svakheter».

– Vi må kunne en del om det før vi kan mene noe om algoritmene. Vi har generativ KI – med fantastiske egenskaper – som vil finne på ting på egen hånd. Vi har også mer klassisk maskinlæring, som kan finne mønstre og ting vi mennesker ikke klarer alene. Spørsmålet er om de finner det riktige – og om det er nøyaktig nok.

– Dette er spørsmål vi er nødt til å stille oss når KI benyttes. Så er det dette med modeller. Modeller er algoritmer som er trent opp på store mengder data – treningsdata. Hvis det er feil i treningsdata, så blir det feil i modellen og dermed feil i resultatene.

Olsen sier at de derfor også må ha kunnskap om treningsdataene, for å vite om de har skjevheter, feil og mangler. For det vil påvirke resultatet, og da må de kanskje være strengere med hvordan resultatene brukes.

– Hva med treningsdata som (de hemmelige, red.anm.) tjenestene må slette? Det kan jo tenkes at en tjeneste har data, som etter loven må slettes etter en viss tid. Det er mange sånne data. Hva om de har trent en modell med slike data?

Kan den typen data bevares for kontroll? Det er mange slike spørsmål, men Olsen erkjente at han selv ikke har svarene.

En umulig oppgave

Kunstig intelligens er en avgjørende del av verktøykassen når de hemmelige tjenestene leter etter nåla i høystakken – i arbeidet med å avdekke utenlandske trusler som kan påvirke Norges sikkerhet.

I dette arbeidet inngår datamengder og algoritmer, som det i praksis er umulig å ha full oversikt over.

– Hvordan skal man da kunne føre kontroll? Algoritmene er avanserte, datamengdene store. Det er egentlig umulig for oss å ha oversikt, innrømmer Olsen.

Tradisjonelle kontrollmetoder strekker ikke til, ifølge ham. Kunstig intelligens lar seg heller ikke dele opp i forståelige biter eller ettergå, på samme måten som man kan sjekke et regnestykke, der to pluss to er fire.

– KI fungerer ikke sånn. Det er en stor kompleks sak, så vi må finne en annen måte å gjøre det på. Vi har valgt å se på bruken av KI, hvordan den implementeres, anvendes og kontrolleres i tjenesten.

Målet er å ramme inn det han omtaler som den «svarte boksen» i midten som ingen har innsyn i.

Digi antar at han sikter til hvordan det ofte er umulig å forstå, eller etterprøve, hvordan en KI-modell kommer fram til et bestemt resultat. Logikken er enten skjult eller så uoversiktlig og ugjennomsiktig at den ikke lar seg kontrollere – særlig i dype nevrale nettverk.

EOS-utvalget samarbeider internasjonalt og ser til ulike rammeverk for å jobbe med kontroll av bruken av KI. Ett eksempel er det åpne kildeprosjektet Huggingface, som Olsen trakk fram som et av flere nyttige verktøy.

Endringer fra dag til dag

Kjetil Otter Olsen leder teknologisk avdeling i EOS-utvalgets sekretariat, og har lang fartstid fra nettverksmiljøet i Norge.

Siden 1993 har han vært en sentral drivkraft bak Norwegian Internet Exchange (NIX) ved UiO – lenge Norges viktigste knutepunkt for internett-trafikk. I dag er han fortsatt involvert på Blindern, men hovedjobben er i EOS-utvalget.

– Vi har fulgt med på KI-området lenge. Det er noen år siden utvalget ga oss på teknologisida en marsjordre om å lese oss opp på dette feltet, og lære mer, sier han.

Slik fagkompetanse er både dyrt og vanskelig å skaffe, mener han.

– Halve verden er på jakt etter KI-kompetente mennesker, og vi stiller jo et lite stykke bakover i den køen. Men det er det vi jobber med.

Målet er å utvikle kontrollfunksjonen i takt med både teknologien utvikling og tjenestenes modenhet.

– Det er ikke sånn at man skriver ned og vedtar dette, og holder på det i noen år. Sånn fungerer det ikke i denne verden. Her er det endringer fra dag til dag. Vi er i kontinuerlig dialog med tjenestene rundt dette, sier Kjetil Otter Olsen.

Prøver å henge med

De hemmelige tjenestene har i flere år vært budsjettvinnere. I statsbudsjettet for 2025 foreslås det 4,3 milliarder kroner til E-tjenesten alene – nær en dobling siden 2020. EOS-utvalget har i perioden også fått flere ressurser, men holder de tritt?

– Det er farlig å svare ja eller nei. Vi holder følge på den måten at vi utnytter ressursene våre godt. Hadde vi hatt flere ressurser, kunne vi gjort mer. Men vi føler at vi har nok ressurser til å følge med i det som skjer. Så vil tiden vise om vi er nærme nok, men vi føler at vi er godt på ballen, sier Olsen.

– Mye har skjedd de siste ti år, og det kommer til å skje mye mer de neste ti. Både med tjenestenes bruk av KI og vår kontroll av KI.

EOS-utvalget gjennomfører både varslede og uanmeldte inspeksjoner, og prioriterer tett kontakt med fagfolk i tjenestene.

– Det kanskje viktigste i KI-sammenheng og all annen teknologi ute hos tjenestene, er å få lov til å være der.

God tilgang til E-tjenestens systemer

Digi har stilt en rekke spørsmål til EOS-utvalget, med særlig vekt på det kontroversielle systemet for tilrettelagt innhenting (TI) – der E-tjenesten kan samle inn all internettrafikk som krysser Norges grenser.

Kontrollorganet gir uttrykk for at de har god dialog med tjenestene, samt vid tilgang til systemene.

Kontrollverktøyene må utvikles kontinuerlig, ifølge utvalgets leder Grete Faremo. Hun er trygg på at de har gode forutsetninger for kontroll og til å oppdage eventuelt misbruk eller regelbrudd.