Stor sikkerhetsallianse advarer: – Nå snakker vi om måneder, ikke år

Faren som den raske KI-utviklingen representerer når det gjelder cybersikkerhet har nå nådd et kritisk nivå, mener den innflytelsesrike cybersikkerhetsalliansen Five Eyes.

Alliansen, som består av sentrale sikkerhetsbyråer fra de fem landene Australia, Canada, New Zealand, Storbritannia og USA, forfattet nylig en felles uttalelse hvor det oppfordres til umiddelbar handling.

Saken ble fanget opp av blant andre publikasjonen Inside Privacy.

– Måneder, ikke år

Hovedbudskapet er at KI nå utvikles så raskt at det er fare for at ondsinnede aktører vinner våpenkappløpet.

– Selv om KI over tid vil hjelpe oss med å styrke cyberforsvaret, bidrar den også til å øke hastigheten, omfanget og sofistikeringen av cybertrusler. Det forventes at de mest avanserte KI-modellene vil overgå dagens forventninger i bransjen og grunnleggende endre både offensive og defensive cyberkapasiteter. Tidshorisonten er ikke år – den er måneder, heter det i formaningen.

Sikkerhetsbyråene påpeker at KI-teknologien har bidratt til å senke terskelen betydelig for ondsinnede aktører uten teknisk ekspertise, og øker både hastigheten og kompleksiteten knyttet til cyberangrep i en slik grad at det nå er svært kort vei fra sårbarheter oppdages til de utnyttes.

Five Eyes erkjenner også at etter hvert som KI-systemene utvikler seg, vil disse kunne brukes til å oppdage nye og hittil ukjente sårbarheter – deriblant nulldagssårbarheter – som raskt kan utnyttes.

Et høyst relevant eksempel på dette, selv om det ikke nevnes eksplisitt av sikkerhetsbyråene, er Anthropics mye omtalte Mythos-modell. Denne har allerede funnet mange tusen sårbarheter i den mest utbredte programvaren – inkludert mange som har forblitt uoppdaget i mange år.

Kripos med advarsler

Mer nylig har Mythos-modellen også blitt brukt til å bryte seg inn i toppsikre IT-systemer på svært kort tid, noe som har gjort amerikanske myndigheter nervøse. Modellen har også havnet i søkelyset til Nasjonal sikkerhetsmyndighet (NSM) her i Norge, som omtalte modellen på nettsidene sine i mai.

Også Kripos henger seg på advarslene til Five Eyes, og understreker særlig faren knyttet til at KI gjør cyberangrep vesentlig enklere for ondsinnede aktører.

– Det er sannsynlig at vi vil se en videreutvikling av menneske-maskin-grensesnittet, også innenfor kriminalitet som handelsvare, med det

resultat at brukerterskelen ytterligere reduseres, samtidig som verktøyenes kompleksitet og ytelser økes, skrev Kripos i en omfattende rapport tidligere i år.

Five Eyes anbefalinger fremover er å blant annet begrense angrepsflatene for å redusere farene, begrense unødvendige systemtilganger/få på plass bedre adgangskontroll, og få fart på prosessen med å fikse sårbarheter.