Vi står overfor en stor svindelkrise, mener Open AI-sjefen

KI-teknologien har allerede kommet så langt at også faremomentene har begynt å gjøre seg gjeldende for alvor, og nå kommer en av hovedaktørene med nye, skarpe advarsler.

Open AI-sjefen Sam Altman inntok nylig scenen under en konferanse i regi av den amerikanske sentralbanken, hvor han ble intervjuet av visesjef for tilsyn, Michelle Bowman.

Intervjuet ble publisert i sin helhet på YouTube og omtalt av blant andre Fox Business.

Redd for kommende svindelkrise

Samtalen handlet i stor grad om rollen kunstig intelligens vil spille overfor finans- og banksektoren, og her har Altman alarmerende spådommer.

– Jeg er veldig nervøs for at vi har en nært forestående, betydelig svindelkrise, sa Open AI-sjefen med referanse til det såkalte «deepfake»-fenomenet.

Dette er altså en KI-teknologi som kan brukes av ondsinnede aktører til relativt enkelt å simulere andre personers identitet – for eksempel stemmen – til å utføre svindel i stor skala.

Med den raske utviklingen innen KI vil denne teknologien veldig snart bli så avansert at den er umulig å skille fra ekte vare, mener Altman.

– Det finnes rapporter om utpressingsangrep hvor folk har stemmen til barnet ditt eller foreldrene dine og utfører oppringninger med tidspress. Dette kommer til å bli svært attraktivt, sa Altman.

Trenger nye autentiseringsmetoder

– Samfunnet må håndtere dette problemet mer generelt, men mennesker må endre måten de interagerer med hverandre på. De må endre måten de autentiserer seg på. Denne personen som ringer meg; akkurat nå er det stemmesamtaler, men snart vil det være video som er identiske med virkeligheten, sier Altman.

Han peker på at mange finansielle institusjoner fremdeles benytter seg av autentiseringsformer som veldig enkelt kan forfalskes av kunstig intelligens. Han sier han er «livredd» for hva dette innebærer og mener det er «galskap» at slik autentisering ennå foregår.

– Økende trussel

Vi har allerede sett flere eksempler på farene Altman omtaler. Digi har tidligere omtalt en sak hvor svindlere brukte en KI-generert videoutgave av finanssjefen i en større bedrift til å lure til seg 270 millioner kroner.

Svindelen ble utført ved at en ansatt hos selskapet ble narret til å delta i en videokonferanse med den falske finanssjefen og flere andre KI-genererte personer.

Det finnes også eksempler på svindlere som har utført tyveri ved å etterligne stemmen til medlemmer av ofrenes familie.

«Deepfake»-trusselen tas i økende grad på alvor av både myndigheter og forskningsmiljøet, også her til lands.

– Deepfake vil bli en økende trussel for deg som privatperson, som ansatt og for hele samfunnet. Ennå er teknologien i sin barndom. Kunstig intelligens åpner for uante muligheter og blir vanskeligere og vanskeligere å avsløre, kommenterte Viggo Tellefsen Wivestad, forsker ved Sintef Digital, i et debattinnlegg.