Kun ett råd beskytter mot deepfake

Bilder, video og lyd som er laget ved hjelp av kunstig intelligens og som vil fremstille noe på en annen måte enn det som er virkelig, kalles deepfake. Utviklingen går lynraskt. Men hvordan oppdage deepfake? Vi spør førstemanuensis Kiran Raja ved Institutt for datateknologi og informatikk ved NTNU.

1. Hvordan fungerer deepfake?

– Deepfake kan lages enkelt med bildemanipuleringsteknikker som kan klippe og lime et ansikt av andre. Man kan bruke bildemanipuleringsverktøy som Photoshop, forteller Raja.

– I dag er det mange teknikker som benyttes, som avanserte og automatiserte teknikker i datasyn – computer vision – og maskinlæring/kunstig intelligens. Ved bruk av kunstig intelligens kan man lære om bilde, video og audio og deretter manipulere og endre karakteristikker av det opprinnelige og lage nye som er annerledes. Nye teknikker som Generative Adversarial Networks (GAN) og latente diffusjonsmodeller har gjort det mye lettere å forandre på karakteristikker.

2. Hva kan avsløre deepfakes?

– Deepfake i for eksempel bilder kan avsløres ved å se på forskjellene i kantene rundt øyne, nese eller munn. Videoer kan derimot vise noen mønstre, som eksempelvis ujevn opptakskvalitet, ikke så myk overgang mellom bildesekvenser, varierende belysning og bevegelsesmønster når en prater, påpeker han.

– Dagens metoder for å generere deepfakes er ganske avanserte, og dermed kan ikke disse vanlige endringsmønstrene ses veldig lett. Flere nye metoder som er utviklet i det siste, benytter maskinlæring/kunstig intelligens som lærer hvordan en deepfake ser ut, for eksempel som en klassifiseringsalgoritme. I video og audio brukes temporale mønstre, det vil si forskjell over tid eller mellom sekvenser.

– For å avdekke deepfakes har det kommet en rekke metoder som ser på genereringsfingeravtrykk, som kan tyde på hva slags agoritme som er brukt. Men disse feiler når genereringsmekanismer endres, noe vi kaller for generalizability.

3. Hvordan kan man beskytte seg?

– Det er ikke lett å beskytte seg mot deepfakes når bildene eller videoene er offentlig tilgjengelig. Dette ser vi veldig ofte for offentlige figurer hvor man har tatt bilder og lagd deepfakes. Vi har sett eksempler i mediene på hvordan man har brukt bilder av kjente mennesker for å lage deepfakes, som de falske pornobildene av Taylor Swift, sier Raja.

– Man kan bare forebygge ved å beskytte kontoene sine og ikke legge ut bilder og videoer offentlig. Selv om det er mulig å avdekke dem, er det ingen sosiale medier-plattformer som har dette innebygd. Bildene kan spres svært lett, og det finnes ingen måte å trekke dem tilbake på.

4. Hva kan være positivt med deepfakes?

– Deepfakes har ikke utelukkende negative konsekvenser. Det blir også brukt i positive sammenhenger. I underholdningsbransjen er det brukt for å lage morsomt innhold. Et annet eksempel er den virale videoen av David Beckham hvor han ved hjelp av deepfake stemmeteknologi snakker ni ulike språk for å drive en kampanje om malariaforebygging.

5. Hva bør forskningen fokusere på framover?

– Dagens genereringsmetoder har hatt uventet fremgang, og dette har skapt ubalanse i generering kontra avdekkingsmetoder. Forskningen må fokusere på å beskytte bilder ved bruk av andre mekanismer, for eksempel bruk av digitale signaturer, som kan gjøre det vanskeligere å manipulere. Ved å legge inn en usynlig signatur i et bilde kan det være lettere å oppdage, men ikke umulig, sier Raja.

– Fokus må også være på å lære opp dagens brukere av sosiale medier i negative konsekvenser, slik at man kan ta nødvendige vurderinger før man legger ut bilder og videoer. På den annen side er det viktig at algoritmeutviklere tar hensyn til å gjøre avdekkingsmetodene bias-fri, altså fri for risiko for systematiske skjevheter.

Artikkelen ble først publisert i TU-magasinet, nr. 2/2024