Svaret på KI-angrep er kjedeligere enn du tror

Norge bør ta intiativ til å samarbeide om å  stoppe ondsinnet KI, skrev stortingsrepresentant Bård Ludvig Thorheim (H) i Digi 21. september. Bekymringen er forståelig, og behovet for internasjonalt samarbeid om KI-sikkerhet er reelt. Men hva skal et «anti-KI-våpen» faktisk gjøre? Skal det stanse agenter som overskrider sine fullmakter, hindre kriminelle i å bruke KI eller beskytte virksomheter mot digitale angrep?

Dette er ulike problemer som krever ulike tiltak. Når det gjelder virksomhetenes cybersikkerhet, må ambisjonene følges av kapasiteten til å gjennomføre grunnleggende sikkerhetsarbeid.

Et nyttig skille

Etter Hugging Face-hendelsen har det blitt offentliggjort flere hendelser der agenter utførte handlinger mot systemer utenfor det tiltenkte testområdet. Hendelsene viser at både agentenes atferd og kontrollene rundt dem kan svikte.

Her er det nyttig å skille mellom agenter som handler utenfor den tiltenkte oppgaven, og trusselaktører som bevisst bruker KI til å gjennomføre angrep. Begge deler kan skape sikkerhetsproblemer, men de krever delvis ulike tiltak.

Mange av angrepsmetodene agentene bruker, er kjente. Forskjellen ligger i hastigheten og omfanget. Når man for eksempel kan sette 2000 agenter til å lete etter et sikkerhetshull samtidig, kan de potensielt finne det raskere enn et menneske. Det betyr at eksisterende sikkerhetstiltak fortsatt er relevante, men at kravene til kapasitet og reaksjonstid øker.

Stort sett som før

En annen økende utfordring er at trusselaktører og andre kriminelle bruker KI til å gjennomføre cyberangrep. Rapporten fra Anthropic viser flere eksempler på det.

Men KI-drevne angrep er fortsatt langt fra normen. Mange virksomheter håndterer hundrevis av angrepsforsøk daglig fra menneskestyrte operasjoner. KI kan gjøre angrepene mulig raskere og mer omfattende, men de fleste veiene inn er de samme som før. Phishing, stjålne opplysninger og sårbarheter som ikke blir lukket.

Når angriperne bruker mange av de samme metodene, uavhengig av om det er KI eller mennesker i regien, hva er det da viktigst å prioritere?

Sikkerhetshygiene!

Når kjente angrepsmetoder kan utnyttes raskere og i større skala, blir grunnleggende sikkerhetsarbeid enda viktigere. Virksomhetene trenger oversikt over egne systemer, oppdaterte applikasjoner og systemer, god tilgangskontroll og backuper som faktisk kan gjenopprettes. Dette er kontinuerlig arbeid som krever folk, tid og tydelig ansvar.

I tillegg er det å få oppdateringer raskt på plass, en sentral del av forsvaret.

Det høres enkelt ut, men det kan være alt fra en enkel rutineoppgave til en mer kompleks operasjon. Det er ikke bare å slippe løs en agent og la den ordne resten. Mange oppdateringer må testes og planlegges, siden de kan kreve nedetid på tjenester som ansatte og andre brukere er avhengige av for å kunne gjøre jobben sin.

Konkretisering må til

KI kan ha en praktisk rolle i sikkerhetsarbeidet. Den kan sammenstille informasjon, sortere varsler, foreslå prioriteringer og bidra til testplaner og dokumentasjon. Verdien avhenger likevel av at virksomheten har oversikt over systemene sine og kapasitet til å vurdere forslagene og gjennomføre tiltakene.

Samtidig kan KI-verktøyene utvide angrepsflaten vår. Så verktøyene som skal styrke sikkerheten, må derfor også sikres og vedlikeholdes.

Skal «anti-KI» bli et meningsfullt forslag, må det konkretiseres. Hvilke handlinger skal stanses, hvem skal kunne gripe inn, og hvordan skal effekten dokumenteres? For virksomhetene er behovene allerede veldig konkrete: Sikre systemer og ha kapasitet til å håndtere hendelser.

Mitt råd til Thorheim er derfor: Gi kommuner og mindre virksomheter støtte til sikkerhetskompetanse og gjennomføring av tiltak, sett tydelige frister for håndtering av kritiske sårbarheter i offentlig sektor, og styrk NSMs kapasitet til å bistå ved hendelser.

Kravene må følges av penger og folk. Det vil styrke forsvaret vårt allerede nå, også når angriperen bruker KI. For det hjelper lite å finne dobbelt så mange sikkerhetshull hvis vi fortsatt mangler kapasitet til å lukke dem.