Sikkerhetsekspert: – Det eneste som kan stoppe en ond AI, er en god AI

Den finske sikkerhetseksperten Mikko Hyppönen fra selskapet WithSecure on var den første innlederen på hovedscenen på konferansen V2 Security i København onsdag.

Der presenterte han sine spådommer: Kunstig intelligens vil løfte hackerangrep til nye høyder, og AI-revolusjonen kan bli større enn internettrevolusjonen, skriver Ingeniøren.dk.

– I løpet av de kommende ukene eller månedene vil vi se de første malware-kampanjene som bruker automatisering av store språkmodeller. Det kommer til å endre hastigheten på angrepene drastisk, og da vil vi se at det eneste som kan stoppe en ond AI, er en god AI, sa han, ifølge avisen.

Ikke lenger «mennesket mot datamaskinen»

I 18 år, forklarte han, har sikkerhetsselskaper brukt automatisering for å motvirke hackerangrep, der hackeren var «mennesket mot datamaskinen». Men med kunstig intelligens har kriminelle hackergrupper fått et helt nytt våpen.

– Vi har ventet på at angriperne skal gjøre de samme grepene og bygge automatisering inn i sine malware-kampanjer. De har ikke byttet ennå, men de vil gjøre det, sa Hyppönen.

Han fortalte at man allerede har sett et eksempel på en «orm» som for hvert angrep endrer sin egen kode ved hjelp av en språkmodell, slik at den ikke kan gjenkjennes av sikkerhetsselskapenes maskiner.

Lanseringen av OpenAIs ChatGPT til publikum i fjor høst satte i gang et kappløp i bransjen der teknologigigantene kjemper om å være først ute med de kraftigste modellene.

Mange har advart mot mulig skadelig bruk, som i cyberkriminalitet, nettfiske og desinformasjon. Hyppönen føyes inn i rekken av eksperter og teknologitopper som i det siste har uttalt seg kritisk til utviklingen.

Teknologitopper ønsker pause

I et åpent brev til alle AI-laboratorier, signert av blant annet Apple-grunnlegger Steve Wozniak, Stability AI-sjef Emad Mostaque og Elon Musk, ba en lang rekke bransjefolk i mars om at treningen av AI-systemer kraftigere enn GPT-4 settes på pause.

− Kraftfulle AI-systemer bør ikke utvikles før vi føler oss sikre på at effektene vil være positive og at risikoen er mulig å håndtere, heter det i brevet.

Pausen bør brukes på å utvikle og implementere et sett felles sikkerhetsmekanismer det blir ført tilsyn med av uavhengige eksperter, og samtidig må utviklere må jobbe sammen med politikere og byråkrater for å få fart på arbeidet med regulering, mener avsenderne av brevet.

Også en av AI-teknologiens fremste forskere og pionerer, Geoffrey Hinton, sa nylig opp stillingen sin i Google og kom med sterke advarsler mot den raske utviklingen på feltet. Hinton pekte også på hvor enkelt det er for aktører med mindre enn edle hensikter å utnytte teknologien, og han tok også til orde for en midlertidig stans i utviklingen.

Hinton uttalte nylig til The New York Times at han tidligere trodde det ville ta kunstig intelligens 30 til 50 år å kunne konkurrere med menneskelig intelligens, men at han på grunn av den raske utviklingen har endret mening.

– Jeg mener forskere ikke bør skalere dette opp noe mer før de har forstått hvorvidt de kan kontrollere det, sa han til avisen.

Ut over teknologiaktørene er også myndigheter i økende grad bekymret for den raske utviklingen på AI-feltet, deriblant EU, som for tiden jobber med lovgivning knyttet til kunstig intelligens.