Sikkerhetsforskere: Slik brukes KI-modellene til å utføre cyberangrep

Kunstig intelligens er et mektig og nyttig verktøy i de rette hendene, men ondsinnede aktører har naturlig nok også kastet seg over teknologien. Nå foreligger nye funn som viser at KI er i ferd med å bli en betydelig cybertrussel.

Open AI-rivalen Anthropic opplyser nå på nettsidene sine at de har funnet beviser på at Claude-modellen deres allerede brukes til å utføre omfattende cyberangrep.

Automatiserer angrep

I den nye Threat Intelligence-rapporten for august sier Anthropic at de har sporet opp en ondsinnet aktør som benyttet Claude Code til å utføre utpressingsangrep mot en rekke ofre i flere ulike land og innen en kort tidsramme.

Claude Code er altså en KI-agent designet spesifikt for koding, som selskapet lanserte i februar i år. Ifølge Anthropic brukte trusselaktøren Claude Code til å automatisere rekognosering, samle inn og analysere legitimasjonsdata og til å bryte gjennom nettverk.

Aktøren skal ha rammet minst 17 organisasjoner innen offentlig virksomhet, helsevesen, nødtjenester og religiøse institusjoner i løpet av kun en måneds tid.

– Operasjonen demonstrerer en bekymringsfull utvikling innen KI-assistert cyberkriminalitet, hvor KI fungerer både som en teknisk konsulent og aktiv operatør samt tilrettelegger for angrep som ville ha vært vanskeligere og mer tidkrevende for individuelle aktører å utføre manuelt, skriver Anthropic.

Aktøren lyktes blant annet i å kompromittere personlige data, inkludert finansielle data og helsedata, og sendte ofrene løsepengekrav på opptil 500.000 dollar med trusler om å offentliggjøre dataene.

Utvikler utpressingsvirus uten kompetanse

Claude Code ble brukt til å gi sanntidsassistanse til nettverkspenetreringen ved systematisk å skanne nettverkene og identifisere kritiske systemer. KI-agenten ble også brukt til å lage skadevare og til å bygge inn anti-deteksjonsløsninger.

Et annet alarmerende funn i rapporten er at Claude-modellene også har blitt brukt til å utvikle, markedsføre og distribuere utpressingsvirus med avanserte egenskaper som selges på det mørke nettet – hvor flere varianter har blitt oppdaget av Anthropic.

Selskapet hevder at disse utpressingsvirusene har blitt utviklet kun ved hjelp av KI, og at aktørene bak virusene tilsynelatende har liten kompetanse innen programmering og kryptering – og baserer seg helt og holdent på KI-assistanse.

Det betyr altså at terskelen for å utvikle avansert skadevare av høy kvalitet nå er senket betydelig, noe som i seg selv er en farlig utvikling – spesielt med tanke på hvor destruktive utpressingsvirusene kan være.

– Tradisjonelt krever utvikling av utpressingsvirus teknisk ekspertise på områder som kryptografi, Windows' virkemåte og omgåelsesteknikker. Vår etterforskning viser at KI mer eller mindre har fjernet denne barrieren, skriver Anthropic.

Fant KI-generert utpressingsvirus

Samtidig har også en annen aktør gjort funn som underbygger disse trendene. Sikkerhetsselskapet ESET rapporterte nylig at de har funnet det de hevder er et av de første tilfellene av KI-genererte utpressingsvirus – døpt «Promptlock».

Promptlock er ifølge ESET utviklet delvis ved hjelp av Open AIs KI-modell gpt-oss-20b, som ble lansert så sent som denne måneden. Viruset er i stand til å både eksfiltrere, kryptere og ødelegge data, sier sikkerhetsselskapet.

Forskerne har ikke beviser på at Promptlock faktisk har blitt brukt til å utføre angrep foreløpig, men hevder det representerer et konseptbevis eller et arbeid som ikke er fullført.

– ESETs funn viser hvordan ondsinnet bruk av offentlig tilgjengelige KI-verktøy kan superlade utpressingsvirus og andre utbredte cybertrusler, skriver sikkerhetsselskapet.