Dette er verdens første KI-genererte talsperson

En av konsekvensene av den svært raske utviklingen innen kunstig intelligens er at den såkalte «deepfake»-teknologien nå er vanskelig å skille fra ekte vare.

Selv om teknologien reiser mange personvern- og sikkerhetsmessige utfordringer, har den definitivt også mer nyttige og kreative anvendelser. Ukraina har nå demonstrert et eksempel, rapporterer The Guardian og Forbes.

Verdens første i sitt slag

Victoria Shi er navnet på det som trolig er verdens første «offentlige person» som er fullstendig KI-generert. Shi benyttes som talsperson for det ukrainske utenriksdepartementet, og har som oppgave å lese opp uttalelser.

Den KI-genererte, kvinnelige talspersonen, som er svært overbevisende, ble vist frem på sosiale medier, deriblant X/Twitter. Det ukrainske utenriksdepartementet kaller nyvinningen «et steg inn i fremtiden» og bedyrer at konseptet er det første i sitt slag noensinne.

Det er riktignok bare selve personen som er KI-generert. Uttalelsene er skrevet og verifisert av ekte mennesker, og kan leses på departementets egen nettside.

Utseendet og stemmen er basert på en levende person ved navn Rosalie Nombre, en sanger og tidligere deltaker på et reality-show i landet.

Den KI-genererte talspersonen er ikke kun et stunt, men tjener et bestemt formål. Den ukrainske utenriksministeren Dmytro Kuleba sa i en kommentar at tanken bak Victoria Shi er å spare tid og ressurser, slik at menneskelige diplomater kan bruke tiden sin på andre, viktige oppgaver nå som landet er i krig.

Ifølge departementet er Shi et ledd i en bredere strategi for å inkorporere kunstig intelligens inn i sitt diplomatiske arbeid mer generelt, uten at det er helt klart hva dette innebærer i praksis.

Bruker QR-kode

I et forsøk på å unngå villedende etterligninger, som er en reell fare med denne teknologien, er alle originale videoer med Victoria Shi utstyrt med en QR-kode som tar seeren til utenriksdepartementets nettside hvor man kan lese uttalelsene i skriftlig form.

Dersom denne QR-koden mangler er det altså et tegn på at videoen er falsk.

Deepfake-teknologien har allerede blitt brukt til mindre edle formål i politisk sammenheng. Som Digi rapporterte delte opposisjonspartiet Dansk Folkeparti i Danmark nylig en KI-generert utgave av landets statsminister på sosiale medier, noe partiet fikk skarpt kritikk for, også av norske politikere.

Teknologien utvikles for øvrig i et rasende tempo for øyeblikket. Microsoft viste nylig frem et nytt verktøy som kan lage hyperrealistiske ansiktsvideoer i sanntid, kun ved hjelp av ett stillbilde og et kort stemmeklipp.

Selskapet har ennå ingen planer om å slippe en nettbasert utgave av verktøyet, inntil de er sikre på at teknologien vil bli brukt på en ansvarlig måte. Open AIs KI-baserte videogenerator Sora ble også ansett som for «farlig» til å bli lansert for allmennheten da den først ble kunngjort.