Microsofts nylig publiserte Digital Defense-rapport for inneværende år tar for seg mange av de største truslene som herjer i den digitale sfæren, basert på de enorme mengdene data som kjører gjennom selskapets omfattende, globale infrastruktur.
I likhet med mange andre, tilsvarende rapporter som tar for seg digitale trusler, konkluderer også Microsofts studie med at KI-revolusjonen har hevet trusselbildet betydelig.
Et av hovedfunnene i rapporten er at KI i stadig økende grad brukes til å gjøre nesten alle former for cyberangrep mer potente, ikke minst identitetsbaserte angrep – deriblant phishing – som steg med hele 32 prosent i årets første halvdel.
Over fire ganger høyere klikkrate
– Denne eskaleringen kan gjenspeile at ondsinnede aktører i økende grad bruker KI til å utforme svært overbevisende sosial manipulasjon – noe som skaper nye utfordringer for oppdagelse og respons i stor skala, skriver Microsoft.
Ifølge rapporten var den KI-genererte, sosiale manipulasjonen som benyttes til phishing-angrep, langt mer effektiv enn det som menneskelige, ondsinnede aktører presterte i løpet av det siste året.
– KI-genererte phishing-e-poster oppnådde en klikkrate på 54 prosent, sammenlignet med 12 prosent for vanlige angrep – altså 4,5 ganger høyere. KI muliggjør mer målrettet phishing og bedre «agn», heter det i rapporten.
Enda mer alarmerende er det ifølge Microsoft at den KI-baserte automatiseringen av phishing-angrepene har potensial til å gjøre angrepene hele 50 ganger mer profitable. Det gjøres ved å skalere målrettede angrep til flere tusen ofre til en minimal kostnad, sammenlignet med tradisjonelle phishing-angrep.
Microsoft mener denne enorme avkastningen på investeringene vil gi sterke insentiver for ondsinnede aktører som ennå ikke bruker KI, til å legge teknologien til verktøykassen sin.
Tredobling i antall KI-genererte identiteter
I tillegg til phishing har KI også gitt opphav til nye trender, deriblant «vishing» (stemmebasert phishing), som ble omtalt av sikkerhetsselskapet Zscaler tidligere i år.
Ut over dette spiller KI også en stor rolle i å gjøre bot-baserte angrep mer sofistikerte, en angrepstype som ifølge Microsoft er en meget raskt økende trussel.
Ifølge selskapet ble over 90 prosent av til sammen 15,9 milliarder forespørsler om nye kontoopprettelser i årets første halvdel, utført av det Microsoft kaller «ondsinnede» bot-er. Slike kontoer kan for eksempel brukes til å utføre cyberangrep.
Falske identiteter er en annen raskt voksende trussel som KI-teknologien har lagt til rette for. Ifølge Digital Defense-rapporten er KI-genererte identiteter nå ofte enda mer overbevisende enn menneskeskapte forfalskninger, og de har hatt en global økning på saftige 195 prosent det siste året – altså nesten tredobling.
KI-genererte identiteter benyttes i stor skala til ulike former for svindel – og det kan gjøre kvikt, påpeker Microsoft.
Tveegget sverd
I løpet av det siste året har Windows-giganten forhindret svindeltransaksjoner for over fire milliarder dollar – rundt 40 milliarder kroner – hvorav mange er KI-assisterte, ifølge Microsoft.
Til og med Open AI-sjefen selv, Sam Altman, har tidligere uttalt at han frykter en massiv svindelkrise på grunn av den raske KI-utviklingen og den allerede høye kvaliteten på «deepfake»-kreasjonene.
Kunstig intelligens er imidlertid et tveegget sverd, som selskapet påpeker. Samtidig som teknologien brukes av ondsinnede aktører, er det nemlig også mye å hente ved å benytte den samme teknologien til cybersikkerhet.
KI er i stand til å analyse store mengder trusler samtidig og kan også benyttes til å automatisere responsen og mottiltakene. Ifølge Microsoft bruker stadig flere organisasjoner KI-agenter til automatisk respons på trusler, ofte med minimal assistanse fra mennesker.
Som Digi tidligere har fortalt, har Microsoft allerede utviklet en egen KI-agent designet for å oppdage skadevare helt på egen hånd.
Alle funnene kan man finne i selve Digital Defense-rapporten i sin helhet.
Sikkerhetsselskap: Slik har KI gitt oss nye phishing-trender
