Ny trend: Nå bruker ondsinnede aktører kunstig intelligens til å lage skadevare

KI-revolusjonen har bragt med seg mange gevinster, men fremskrittene innen denne teknologien har definitivt også en mørkere bakside. Nå ser det ut til at en ny, nifs KI-trend er i fremvekst.

Den kjente PC-produsenten HP publiserte nylig sin Threat Insights-rapport for september. Der kommer det blant annet frem at ondsinnede aktører nå i økende grad benytter seg av KI-teknologi til å utvikle skadevare.

Skrev «droppere» med KI

En ny skadevarekampanje som selskapets sikkerhetsavdeling oppdaget, ble ifølge HP mest sannsynlig laget ved hjelp av generativ, kunstig intelligens.

– Trusselaktører har brukt generativ kunstig intelligens (GenAI) til å lage overbevisende phishing-lokkemidler i en stund, men det har vært begrenset bevis for at angripere har brukt denne teknologien til å skrive ondsinnet kode «i det fri», skriver HP og fortsetter:

– I andre kvartal identifiserte imidlertid HP Threat Research-teamet en skadevare-kampanje som spredte AsyncRAT ved hjelp av VBScript og JavaScript, som svært sannsynlig hadde blitt skrevet med hjelp av generativ, kunstig intelligens.

Selv om det i dette tilfellet var skriptene som ble brukt til å spre og kjøre skadevaren som var KI-genererte, innebærer dette likevel at operatørene bak programvaren altså har begynt å bruke teknologien.

– Aktiviteten viser hvordan generativ KI akselererer angrep og senker terskelen for nettkriminelle til å infisere endepunkter, legger HP til.

Asyncrat, tidligere omtalt av blant andre Mcafee, er for øvrig en RAT-trojaner som er designet for å stjele sensitiv informasjon via blant annet keylogging og nettleser-snoking. Skadevaren har også betydelig spredning i Norge, som Digi tidligere har skrevet om.

Tidligere demonstrert av sikkerhetsforskere

Med tanke på at generativ KI allerede i stor grad benyttes til «godartet» koding, kommer det kanskje ikke som en stor overraskelse at også ondsinnede utviklere benytter seg av teknologien.

Som HP påpeker har det imidlertid hittil ikke dukket opp mye bevis på at dette faktisk skjer, selv om trusselen allerede har blitt eksperimentelt demonstrert.

Sikkerhetsselskapet Recorded Future publiserte for eksempel tidligere en rapport som tok for seg de største KI-truslene. Rapporten var basert på funn som sikkerhetsselskapet selv gjorde ved å benytte KI-verktøy som er tilgjengelige for ondsinnede aktører, og som derfor utgjør realistiske sikkerhetstrusler.

Forskerne gjennomførte et eksperiment som innebar å bruke generative KI-verktøy til å endre kildekoden til skadevare for å sette den bedre i stand til å unngå oppdagelse.

Man lyktes i å endre koden til en «infostealer»-skadevare på en slik måte at den klarte å unngå oppdagelse som er basert på etablerte regler som sikkerhetsforskere jevnlig publiserer, som brukes til å kjenne igjen mønstre i skadevare-prøver.