Forsker: Politikere må innse trusselen fra deepfakes

Dyp læring (deep learning) kan mer enn å identifisere kreft-tumorer, måle klimaendringer og utforske universet. Det kan også brukes til å lage falske videoer, falske stemmer og falske tekster på veldig kort tid. Deepfakes har implikasjoner for både cybersikkerhet, politisk manipulering og rettsikkerhet.

Katja Bego er forsker og data scientist ved det britiske innovasjonsfondet Nesta, hvor hun blant annet holder øye med utviklingen av deepfake. DataTech har spurt henne hvordan vi forholder oss til deepfakes – og beskytter oss mot misbruk.

Hva ser du på som det viktigste for lovgivere å forstå om deepfakes?

– Deepfakes er på mange måter bare en fortsettelse av en eldgammel tradisjon hvor man bruker falsk informasjon og manipulasjon til politiske formål – et nytt, potensielt veldig effektivt verktøy i verktøykassa. Men det er også noen viktige områder hvor deepfake faktisk er en avviker fra fortiden, og dette er også årsaken til at de potensielt er så farlige. Politikere er nødt til å våkne opp og se disse risikoene.

– Et av de mest interessante aspektene ved deepfakes er demokratisering av teknologien. Deepfakes blir lettere og billigere å produsere. Snart vil alle med en rimelig grad av teknisk innsikt og en noenlunde brukbar pc være i stand til å skape en «akseptabel» deepfake, noe som kan innebære at vi kanskje snart blir bombardert med disse videoene fra alle kanter, og dette vil ytterligere erodere offentlighetens tillit til allerede politisk høyspente situasjoner.

– Utviklingen av deepfakes er også temmelig desentralisert – det er ikke én enkelt bedrift som leder an i utviklingen, og dette innebærer at det er svært vanskelig å få en god innsikt i de måtene og retningene som teknologien utvikler seg.

Vi ønsker å tro på det vi hører

– Et av de andre og mer farlige aspektene ved deepfake er faktisk den konteksten som de oppstår i. Vi lever i en veldig politisk polarisert tid, hvor vi i økende grad ønsker å tro på det vi hører, så lenge det passer inn i den politiske overbevisningen vår. Kombinerer man dette med det faktum at en viral video i dag kan nå ut til et publikum på millioner og skape overskrifter i løpet av få timer, er det ikke vanskelig å forstå at en velutviklet deepfake for eksempel vil kunne endre politiske resultater markant. Forestill deg hva dette kunne gjøre rett før et avgjørende valg.

– For øyeblikket opprettes mesteparten av deepfakes (96 prosent ifølge nyere undersøkelser fra Deeptrace Labs) til pornografi og hevn-porno, noe som er et alvorlig problem i seg selv, og stiller viktige spørsmål om for eksempel samtykke. Men de potensielle bruksområdene til deepfakes er mye bredere. Etter hvert som teknologien blir stadig bedre, både når det gjelder kvalitet og brukervennlighet, er politiske beslutningstakere nødt til å begynne å tenke på hvordan de skal reagere på nye skadevirkninger, fra cyberkriminalitet til politisk manipulasjon. De må også identifisere hull i reguleringen før vi ser at de første store skandalene oppstår.

Vannmerke gir bare kaos

Hvilken type politikk eller teknologi ser du som mest nødvendig, og best egnet til å forsvare seg mot ondsinnede deepfakes?

– Teknologiske løsninger alene er sannsynligvis ikke svaret. Siden utviklingen av deepfake-teknologi utvikler seg så raskt og spesielt også på en veldig desentralisert måte – vi ser at det kommer mange forskjellige verktøy over hele verden – er det vanskelig for de som bygger detekteringsløsninger å holde tritt. Og så har vi det potensielt enda større spørsmålet om hvorvidt teknologiske løsninger er det riktige middelet i utgangspunktet. Som vi har sett med tilfellene av falske nyheter, blir sannheten subjektiv – spesielt når politikk er involvert. Et vannmerke eller en faktasjekk som forteller oss at den videoen som vi nettopp har sett er manipulert, kan i slike situasjoner ende opp med å bidra til kaoset, eller bli betraktet som partisk.

– Vi er i stedet nødt til å tenke mer på den underliggende politiske og sosiale dynamikken som potensielt gjør deepfakes så farlige. Dette vil innebære å gjøre offentligheten mer oppmerksom på problemet. Det er bra at deepfakes har generert så mye nyhetsdekning før vi har sett den første virkelige skandalen dukke opp. Det å være oppmerksom på at disse typene verktøy nå finnes, vil gjøre offentligheten mer oppmerksom på å overveie autentisiteten av de videoene som de ser. Men å håndtere deepfakes effektivt vil også innebære den mye større oppgaven med å gjenskape tillit og samhørighet i demokratiene våre og samfunnet generelt, noe som er roten til så mange av de politiske utfordringene som vi står overfor i dag.

Eier jeg ansiktet mitt?

Hva ser du som den største utfordringen i å skape reguleringen innen deepfake-området som ikke er til hinder for ytringsfrihet og lignende?

– Dagens regulering er sannsynligvis ikke egnet til formålet når det gjelder håndtering av deepfakes. Det finnes viktige spørsmål om opphavsrett og eierskap. Eier jeg rettighetene til mitt eget ansikt, selv om det er en kunstig versjon av det? Må jeg gi samtykke, eller vil vi overlate dette gratis til alle?

– I tillegg kommer personvern og for eksempel gyldigheten av bevismateriale i retten. Teknikker for deepfake lyd er avanserte, og kan med tiden kreve nye kriminaltekniske metoder i domstolene. Dette er komplekse områder, men stadig områder som vi proaktivt kan ta tak i nå.

– Det vil være vanskeligere å takle risikoen for deepfakes i politiske sammenhenger. De samme utfordringene som vi har sett regjeringer kjempe mot når det gjelder å takle fake news-problemet, vil stort sett gjelde her. Forbud mot alle deepfakes fra internett vil i praksis være nesten umulig, og sannsynligvis heller ikke være noe som vi som åpent samfunn har lyst til å gjøre. Det er teknologisk vanskelig å forby bare «skadelige» deepfakes, fordi filtrering og andre moderasjonsmekanismer ikke kan realiseres med de enorme mengdene som vi kanskje snart står overfor. Det vil dessuten alltid være en utrolig subjektiv øvelse: Hvem skal dømme om hva som er sant?