Google med ny løsning for vannmerking: − Lovende, men ikke idiotsikkert

Googles kunstig intelligens-miljø Deepmind og Google Cloud har gått sammen for å lage sin egen løsning for vannmerking av KI-genererte bilder, SynthID, som er i beta-test.

Det melder selskapet selv i et blogginnlegg.

Løsningen legger et digitalt vannmerke direkte inn i pikslene i bildet. Du og jeg kan ikke se vannmerket, men en maskin kan.

Tilnærmingen er ikke idiotsikker, men lovende for videre utvikling, mener Google selv.

Midjourney, Dall-E og Stable Diffusion

Modeller som Midjourney, Dall-E og Stable Diffusion tok verden med storm sommeren 2022. Felles for modellene er at de kan generere bilder i ulike stiler, fra anime til fotorealistisk, basert på en enkel tekstlinje.

Teknologien har vært med oss en stund, men har både blitt gradvis bedre og tilgjengelig for et bredere publikum de siste par årene.

Modellene er ulikt bygget, men har det felles at de er trent på et stort datasett av bilder, med tilhørende beskrivelse. Når du legger inn en tekstlinje, prosesseres den i flere lag i modellene og genererer et bilde eller videosnutt modellen finner sannsynlig, basert på tidligere trening.

Bildene blir stadig bedre – og mer overbevisende. Det kan by på noen utfordringer.

KI-influensere og falske nyheter

Ingenting av det du ser på sosiale medier er ekte, sies det. De siste årene ser det ut til å ha blitt enda sannere.

Allerede i 2020 kom koreanske Rozy til Instagram. Den KI-genererte 22-åringen fikk raskt over 100 samarbeidstilbud. Denne høsten er det Feli som tar av på Instagram. Den hesteinteresserte overklasse-jenta legger ut bilder fra luksuriøse ferier, rideturer og hverdagen på slottet, og hun har godt over 300.000 følgere.

Hun finnes ikke.

Feli er åpen om at hun er KI-generert, likevel tror nok mange av følgerne at hun er ekte, og de reagerer med beundring og misunnelse over det luksuriøse livet hennes.

Influenser-bransjen ser ut til å ha omfavnet fenomenet, og moteblader gir oss artikler av typen «10 KI-influensere du bør følge nå».

KI-genererte Instagram-profiler gir et interessant bilde av kulturen vår, men er kanskje ikke det beste forbildet for 14-åringen din.

Risikoen for spredning av falske nyheter er også stor.

Bilder som viser nyhetshendelser som rett og slett ikke har skjedd, kan ta falske nyheter til et nytt nivå.

Bildene av Trump som blir arrestert i et basketak med politiet, gikk viralt i mars og satte fyr på debatten om hvordan man driver kildekritikk når bildene etter hvert blir enda mer overbevisende.

Flere løsninger mulig

Utviklingen har ført til etterspørsel etter tekniske løsninger for vannmerking som kan gjøre det mulig å forholdsvis enkelt avsløre om et bilde er fremstilt av en kunstig intelligens eller ikke.

Å legge ved metadata (data om data) til bildet som viser at det er KI-generert, har vært et naturlig første steg å utforske. Microsoft har lovet å vannmerke bilder og videoer ved hjelp av «kryptografiske metoder». Dall-E legger inn et vannmerke nederst i høyre hjørne som fem små fargerike kvadrater. Disse er imidlertid lette å fjerne.

At Google velger å legge vannmerkingen inne i pikslene, tar det et steg videre. Vannmerkingen skal overleve kopiering, komprimering, at man legge til filtre eller endrer fargene i bildet, mener selskapet.

− Tradisjonelle vannmerker er ikke tilstrekkelig for å identifisere KI-genererte bilder, siden de ofte er satt på som et stempel på bildet og enkelt kan redigeres bort, skriver Deepmind i et blogginnlegg.

Ikke idiotsikker

SynthID «er ikke idiotsikker mot ekstrem bilde-manipulering, men gir en lovende teknisk tilnærming til forsvarlig bruk av KI-generert innhold», skriver Deepmind.

Google tror tilnærmingen kan utvikles videre til å fungere på andre typer generativ KI som lager tekst, lyd og video.

SynthID bruker to ulike dype maskinlæringsmodeller trent opp mot hverandre. Én som setter vannmerket best mulig i det aktuelle bildet, og én som identifiserer vannmerket når man sjekker det etterpå.

Løsningen fungerer bare på bilder generert av Googles egen bildegenererings-modell, Imagen, som kun er tilgjengelig gjennom Googles plattform for å bygge apper og modeller basert på kunstig intelligens, Vertex AI.

Det er derfor verdt å understreke at det SynthID kan, ikke er å avsløre om et bilde er KI-generert, men om det er laget av Googles Imagen, og bare hvis brukeren velger å legge vannmerket på bildet.

Om bransjen skulle bli enige om en standard, ville det ta oss et steg videre, men heller ikke det ville hindre dem som vil lage modeller som ikke følger standarden å gjøre det.