Ble frastjålet 270 millioner kroner i videomøte med KI-skapte personer

Kunstig intelligens har gitt oss mange nyttige verktøy, men dessverre tjener også de cyberkriminelle på de teknologiske fremskrittene. Det har vi nå fått en ny påminnelse om.

Avisen South China Morning Post (via The Verge) rapporterer om en uvanlig sak fra Hongkong, hvor svindlere lurte til seg en enorm pengesum med falske, datagenererte utgaver av viktige personer. Fenomenet er kjent som «deepfake».

Frastjålet nesten 270 millioner kroner

En ansatt hos et ikke navngitt selskap i Hongkong ble narret til å delta i en videokonferanse med det den ansatte trodde var vedkommendes overordnede.

En av deltakerne var selskapets finanssjef (chief financial officer), som beordret den ansatte – som altså var den eneste levende personen som deltok i videokonferansen – til å overføre penger til flere ulike mottakere.

Pengeoverføringene utgjorde en sum på til sammen 200 millioner HK dollar, som tilsvarer litt over 267 millioner norske kroner. Summen ble overført til fem ulike bankkontoer, fordelt på 15 transaksjoner.

Den ansatte skal først ha mottatt en phishing-e-post i midten av januar, hvor vedkommende ble varslet om pengeoverføringene. Personen skal ha uttrykt overfor politiet som etterforsket saken at hen først var skeptisk, men at han falt for svindelen etter at han ble invitert til å delta på videokonferansen.

Personen skal ha sagt til politiet at alle deltakerne så helt ekte ut.

Tyveriet ble utført ved at svindlerne brukte «deepfake»-teknologi til å gjenskape personene, basert på offentlig tilgjengelig videomateriale av dem.

Ikke enestående

Den ansatte innså hva som hadde skjedd først en uke etter at phishing-e-posten ble mottatt, etter at personen konfererte direkte med selskapets eget hovedkvarter.

Under videokonferansen skal den ansatte ha blitt bedt om å introdusere seg selv, men ut over dette kommuniserte ikke personen med noen av de andre deltakerne på møtet, ifølge politiet.

Politiet etterforsker fortsatt saken, og ingen arrestasjoner skal ha funnet sted i skrivende stund.

Saken er ikke unik. I 2021 skrev Digi om en sak hvor svindlere lurte til seg hele 300 millioner kroner ved å etterligne stemmen til direktøren i et større selskap.

Den saken illustrerer at «deepfake»-svindel ikke bare begrenser til seg bilder og video, men også lyd. Den samme teknologien blir også brukt av svindlere til å etterligne stemmen til familiemedlemmer og på den måten lure til seg penger.

De store fremskrittene innen kunstig intelligens har gjort «deepfake»-teknologien særdeles avansert og overbevisende – i en slik grad at selveste Microsoft-presidenten Brad Smith har kalt teknologien den aller største KI-trusselen.