Kunstig intelligens har gjort store fremskritt innen ansiktsgjenkjenningsteknologi, men i denne kategorien kan teknologien også by på betydelige trusler mot personvern og åpne for identitetstyveri og såkalt «deepfakes». Det har vi nå fått et nytt, godt eksempel på.
Sikkerhetsselskapet Malwarebytes rapporterer at parlamentsmedlemmer i Nederland og Estland nylig ble lurt til å tro at de snakket med en ekte person via videokonferansetjenesten Zoom – når de i virkeligheten snakket med en AI-generert person.
– Klart identitetstyveri
Som avisene Dutch News og Baltic Times skriver var det en kunstig versjon av den russiske politikeren Leonid Volkov som narret de nederlandske og estiske politikerne. Volkov er stabssjef for opposisjonslederen Alexei Navalny, som for tiden sitter i fengsel i Russland.
_logo.svg.png){kind=logo}
– Møtet fant sted, men dette utgjør helt klart et identitetstyveri, sa et av de estiske parlamentsmedlemmene, Marko Mihkelson, til Baltic Times.
Noen medier skal ha rapportert at hendelsen kun var en narrestrek, men Volvok selv hevder at det hele var et bevisst fremstøt iscenesatt av Vladimir Putins regjering for å diskreditere europeiske politikere.
Ifølge parlamentsmedlemmene som deltok i Zoom-møtet virket det som om hensikten var å få politikerne til å bekrefte at de ønsket å støtte opposisjonen i Russland med store pengebeløp.
I et intervju med det nederlandske nettstedet NOS uttalte Volvok – den ekte versjonen av mannen – at Kremlin bruker Zoom som et våpen, og at europeiske politikere bør være langt mer oppmerksomme på fenomenet.
Stort trusselpotensial
Det er uvisst akkurat hvordan samtalen artet seg, men bakmennene skal ha vært godt forberedt og svarte tilsynelatende på flere spørsmål fra parlamentsmedlemmene – med noen unntak.
Det skal ha blitt tatt få forholdsregler i forkant av Zoom-møtet, og de europeiske politikerne skal ha unnlatt å verifisere identiteten til Volvok, som enkelt kunne blitt gjort via sosiale medier eller e-postadressen.
Deepfake-teknologien har ved hjelp av store fremskritt innen kunstig intelligens og maskinlæring blitt svært avansert og overbevisende, og har et stort potensial for villedning og misbruk.
Mange advarer mot teknologien, og i Norge har blant andre Økokrim omtalt deepfake som en stor trussel som svært enkelt kan benyttes til utpressing, bankoverføring eller
falske nyheter.
– Det er sannsynlig at deepfake vil tas i bruk mot norske bedrifter. Dette vil med stor sannsynlighet gjøre det vanskeligere å gjennomskue direktørbedrageri og antall bedragerier med økonomisk tap vil sannsynligvis øke, skrev Økokrim i sin trusselvurdering i fjor.
Som digi.no tidligere har rapportert har deepfake-teknologien allerede blitt brukt av kriminelle til å svindle til seg store pengebeløp.
Denne enheten kan generere ekte slumptall i et svært høyt tempo
