Nå bruker utpressingsvirus KI til å utføre angrepene automatisk

KI har som kjent tilrettelagt for automatisering av oppgaver, men dessverre gjelder dette også ondsinnede aktiviteter. Sikkerhetsforskere har nå gjort et nytt funn som kan være starten på en alarmerende trend.

Sikkerhetsselskapet Sysdig rapporterer nå om det første dokumenterte tilfellet av et automatisert angrep med utpressingsvirus utført med en stor språkmodell.

Blant andre nettstedet The Next Web rapporterte om saken.

Agentisk trusselaktør handlet på egen hånd

Aktøren bak angrepet har fått navnet «Jadepuffer», som Sysdig sier er en såkalt agentisk trusselaktør – definert som en operatør som benytter KI-agenter til å utføre angrep i stedet for menneskeskapte verktøy.

I dette tilfellet skal angrepet ha blitt utført med svært høy grad av autonomi, hvor skadevaren selv gjorde det meste av arbeidet helt på egen hånd – inkludert avanserte oppgaver.

– Den innehold resonnementer formulert i naturlig språk, prioritering av mål og detaljerte kommentarer – den typen forklaringer som menneskelige operatører sjelden skriver, men som kode generert av store språkmodeller produserer nærmest automatisk, skriver sikkerhetsselskapet og fortsetter:

– Operasjonen tilpasset seg også i sanntid ved å prøve mislykkede trinn på nytt med forbedrede parametere. I ett av hendelsesforløpene gikk den fra en mislykket innlogging til en fungerende løsning på bare 31 sekunder.

Angriperne skal ha utnyttet en sårbarhet i et populært åpen kilde-rammeverk for utvikling av KI-applikasjoner kalt Langflow til å levere utpressingsviruset.

Mener saken er et faresignal

KI-modellen som ble brukt i angrepet tok seg av både rekognosering, innhenting av legitimasjonsdata, bevegelse innad i systemene, unnvikelsesteknikker

Det automatiserte angrepet ble altså brukt til å levere utpressingsvirus hvor viktige servere hos offeret – som for øvrig ikke er navngitt – med en melding om å betale løsepenger i bitcoin, som er ganske vanlig blant utpressingsvirus-aktører.

Angrepet innebærer ifølge Sysdig at utpressingsvirusangrep ikke lenger er forbeholdt erfarne eller begavede aktører, en alarmerende konklusjon med tanke på hvor destruktive og kostbare slike angrep ofte er.

– Jadepuffer er et faresignal. Den er en indikasjon på hvor utpressingsmetoder er på vei. En autonom agent resonnerte om ofrene sine, hentet inn og gjenbrukte personlige data, beveget seg innad i systemene, etablerte fotfeste, og ødela en database – og uttrykte sine egne intensjoner hele veien, skriver forskerne.

Tiltakende trend

Saken føyer seg inn i en generell trend hvor KI i økende grad brukes i cyberangrep. Digi har tidligere blant annet rapportert om KI i phishing-angrep, hvor teknologien benyttes til å gjøre sosial manipulering langt mer effektivt.

Anthropic meldte for et år siden at de hadde observert sin egen Claude-modell bli brukt i automatiserte angrep, og litt senere opplyste det samme selskapet at Claude hadde blitt benyttet i en bred angrepskampanje mer eller mindre uten menneskelig innblanding.

Situasjonen har blitt så alvorlig at den store cybersikkerhetsalliansen Five Eyes nylig advarte om at ondsinnede aktører kan vinne KI-våpenkappløpet dersom truslene ikke tas på alvor umiddelbart.