– Dette er det første store cyberangrepet utført uten betydelig menneskelig innblanding

Den galopperende KI-utviklingen har dessverre også hjulpet de ondsinnede aktørene som herjer i den digitale sfæren, har vi nå fått et nytt alarmerende eksempel på.

Open AIs kanskje viktigste konkurrent, Anthropic, publiserte torsdag en rapport som omhandler et omfattende cyberangrep med KI i hovedrollen – nærmere bestemt selskapets egen Claude-modell.

Anthropic sier de registrerte mistenkelig aktivitet relatert til KI-modellene sine rundt midten av september, og den påfølgende etterforskningen viste senere at det dreide seg om en sofistikert, KI-drevet spionasjekampanje.

KI i førersetet

Kampanjen rettet seg mot rundt 30 mål, som blant annet omfattet store teknologiselskaper, finansinstitusjoner, bedrifter innen kjemisk produksjon og statlige institusjoner i flere ulike land.

Ifølge Anthropic brukte de ondsinnede aktørene Claudes agentiske, altså autonome, egenskaper til å utføre angrepene – og det spesielle er er at angrepene skal ha skjedd med de menneskelige aktørene mer eller mindre på sidelinjen.

– Aktøren oppnådde det vi mener er det første dokumenterte tilfellet av et cyberangrep som i stor grad ble gjennomført uten menneskelig innblanding i stor skala. KI-en oppdaget autonomt sårbarheter i mål valgt av menneskelige operatører og utnyttet dem med hell i live-operasjoner, skriver Anthropic.

Etter å ha utnyttet sårbarheter til å bryte seg inn i systemene, utførte KI-agentene en rekke aktiviteter som analyser, lateral bevegelse innad i systemene, privilegie-eskalering og innhenting av sensitive data. De menneskelige aktørene skal kun i svært begrenset grad ha assistert.

90 prosent utført av KI

– Analyse av operasjonstempo, forespørselsvolum og aktivitetsmønstre bekrefter at KI-en utførte omtrent 80 til 90 prosent av alt det taktiske arbeidet på egen hånd, mens mennesker opererte i strategiske tilsynsroller, skriver selskapet i rapporten.

Ved å bruke KI var hackerne i stand til å utføre flere tusen forespørsler per sekund under angrepene, et tempo som ifølge Anthropic ville vært helt umulig å matche for mennesker.

Selskapet mener det er en kinesisk, statlig støttet gruppe døpt «GTG-1002» som står det omfattende angrepet, som beskrives som «svært sofistikert». Det skal være Claude Code-modellen som ble benyttet, en modell som spesialiserer seg på koding.

Ifølge Anthropic har angrepet store implikasjoner for cybersikkerhet generelt, blant annet ved at det viser at terskelen for å utføre avanserte cyberangrep nå er mye lavere enn før – som legger et større press på sikkerhetsløsningene.

Oppfordrer til KI-basert beskyttelse

Ikke minst demonstrerer angrepet også viktigheten av å satse på mer KI-basert beskyttelse, nå som det KI-baserte våpenkappløpet har startet for alvor. Selskapet råder sikkerhetsteam til å eksperimentere med KI til både automatisering av beskyttelse, trusseldeteksjon, sårbarhetsanalyser og hendelseshåndteringen.

Alle detaljene om angrepet kan man finne i selve rapporten.

Anthropic er ikke alene om å ha rapport om ondsinnet KI-bruk. Open AI har blant annet meldt om trusselaktører som bruker selskapets modeller til å forske på sårbarheter, feilsøke kode og mer.

Anthropic selv har også tidligere rapportert om en trusselaktør som brukte Claude Code til å automatisere rekognosering, samle inn og analysere legitimasjonsdata og til å bryte gjennom nettverkene ti en rekke ofre.