Sikkerhetsselskap: Dette er de viktigste KI-truslene

Det er allerede et godt etablert faktum at kunstig intelligens, i tillegg til å by på mange nyttige verktøy, også utgjør en betydelig risiko i hendene på ondsinnede aktører.

Sikkerhetsselskapet Recorded Future har nå kartlagt det de anser som de viktigste truslene, og redegjort for disse i en ny rapport. Blant andre nettstedet The Hacker News skrev om saken.

Kan forbedre skadevare

Rapporten er basert på funn som sikkerhetsselskapet selv gjorde ved å benytte KI-verktøy som er tilgjengelige for ondsinnede aktører, og som derfor utgjør realistiske sikkerhetstrusler.

En betydelig trussel som i begrenset grad har blitt belyst hittil, er mulighetene som KI-teknologien gir når det gjelder produksjon eller forbedring av skadevare.

I denne forbindelse gjennomførte forskerne et eksperiment som innebar å bruke generative KI-verktøy til å endre kildekoden til skadevare for å sette den bedre i stand til å unngå oppdagelse.

Forskerne lyktes i å endre koden til en «infostealer»-skadevare kalt Steelhook på en slik måte at den klarte å unngå oppdagelse som er basert på etablerte regler, kjent som YARA-regler. Dette er sett av regler som sikkerhetsforskere jevnlig publiserer, og er en metode for å kjenne igjen mønstre i skadevare-prøver.

En av begrensningene i dette eksperimentet var likevel at KI-modeller ennå har relativt liten kapasitet når det gjelder hvor mye tekst som kan håndteres på én gang. Det legger en demper på omfanget til kodebasen som kan endres med denne teknikken, peker Recorded Future på, men på dette området skjer det som kjent fremskritt.

Tror deepfake-trusselen blir verre

Blant funnene til Recorded Future er at såkalte «deepfakes», troverdige etterligninger av virkelige personer, vil bli en enda større trussel enn det allerede er på grunn av de raske fremskrittene innen KI-teknologi.

Sikkerhetsselskapet var i stand til å benytte et åpen kilde-verktøy til å etterligne fire personer i ledende stillinger hos Recorded Future ved å trene verktøyet på videointervjuer og interne gruppesamtaler.

Selskapet bemerket at det fremdeles finnes en del tekniske begrensninger som kan påvirke realismen til slike etterligninger, men påpekte samtidig at slike begrensninger trolig vil viskes ut i løpet av de kommende, få årene.

Dette kommer av at åpen kilde-verktøy ifølge Recorded Future er i ferd med å bli like avanserte som de som er basert på lukket kildekode og som tilbys av kommersielle aktører. Selskapet tror også at slike teknologier vil motta massive investeringer fra dataspillbransjen, filmbransjen og andre, noe som vil fremskynde fremskrittene.

«Deepfake»-teknologien er imidlertid allerede nå svært overbevisende, og har blitt brukt i flere massive svindelsaker, som Digi.no har rapportert.

KI-generert desinformasjon

Selskapet brukte også KI-teknologi til å lage falske nettsider som etterlignet virkelige nyhetsnettsider, og la ut KI-generert desinformasjon med bilder som var automatisk valgt ut på bakgrunn av det genererte tekstinnholdet.

Forskerne klarte på denne måten å lage KI-generert innhold som var svært målrettet mot et bestemt publikum, og de klarte også å bruke såkalt «prompt engineering» til å sørge for at innholdet var rettet spesifikt mot publikumets politiske standpunkter.

I tillegg greide forskerne å benytte generativ KI til å automatisk analysere HTML-innhold fra legitime nyhetsorganisasjoner for på den måten å klone nettsidene deres og lage «maler». Dette vil kunne skalere opp produksjonen av desinformasjonen betydelig, påpeker selskapet.

Flere funn fra sikkerhetsselskapet, og mer detaljer om arbeidet, finner man i selve rapporten.