Slik skal Google avsløre KI-generert innhold på nettet

KI-teknologiens aggressive inntog har gjort det nødvendig med avanserte sikkerhetstiltak på grunn av den overhengende faren for misbruk – ikke minst knyttet til det vedvarende «deepfake»-fenomenet.

Google kunngjorde nylig en løsning som skal bidra til å avsløre KI-generert innhold på nettet – da riktignok innhold som er lagd av Googles egen KI-teknologi.

Løsningen kalles «SynthID Detector» og beskrives av Google som en verifikasjonsportal for raskt og effektivt å identifisere KI-generert innhold laget med Google AI.

Usynlige vannmerker

Portalen tilbyr gjenkjenningsfunksjoner på tvers av ulike typer medier – altså både bilde, tekst og video – samlet på ett sted. Tanken er å legge til rette for viktig åpenhet i et landskap med generativt innhold som utvikler seg raskt, sier Google.

Det var allerede i 2023 at selskapets Deepmind-avdeling lanserte SynthID-løsningen, som innebærer å bygge inn «usynlige» vannmerker i det KI-genererte innholdet – direkte inn i selve pikslene.

Ifølge Google bevarer SynthID-løsningen innholdets opprinnelige kvalitet, og i tillegg skal løsningen være robust i den forstand at vannmerkene kan fanges opp selv når innholdet deles og/eller endres.

Løsningen var opprinnelig tiltenkt kun bilder, men har siden blitt utvidet til også å omfatte tekst, lyd og video. Selskapet sier over ti milliarder enheter med innhold allerede har blitt vannmerket med SynthID.

Skanner innholdet

Den nye portalen som Google nylig kunngjorde fungerer ved å skanne innholdet etter disse vannmerkene hver gang brukeren laster opp et bilde, lyd, tekst eller video. Dersom et vannmerke oppdages, vil portalen merke de spesifikke delene av innholdet hvor vannmerket mest sannsynlig befinner seg.

For å bidra til å spre teknologien bredest mulig, har Google gjort løsningen åpen, slik at utviklere kan bygge med teknologien og integrere den i sine egne modeller.

Google innrømmer at SynthID ikke er en idiotsikker løsning mot «ekstreme» former for bildemanipulering, men den skal gi et godt grunnlag for videre arbeid. En av utfordringene er ifølge selskapet å finne den riktige balansen mellom robusthet og å gjøre vannmerkingen «usynlig».

SynthID Detector-portalen rulles i disse dager ut til tidlige testere, og planen er å gjøre den bredere tilgjengelig etter hvert, uten at det foreligger en konkret tidsplan.

Flere løsninger

Det finnes også andre tilnærminger til å identifisere KI-generert innhold. Digi har tidligere rapportert om organisasjonen Coalition for Content Provenance and Authenticity (C2PA) – et initiativ som flere store teknologiaktører, inkludert Google, Meta, Microsoft og Open AI – har stilt seg bak.

Organisasjonen jobber med å utvikle tekniske standarder for å sertifisere kilden og historien/opprinnelsen til digitalt innhold – inkludert KI-innhold.

C2PA-spesifikasjonen innebærer i korte trekk å utstyre digitale ressurser med noe organisasjonen kaller et «manifest», ved hjelp av en program- eller maskinvarebasert «generator».

Dette manifestet er en samling informasjon om opprinnelsen og historien til digitale ressurser som bilder og video, og omfatter blant annet metadata om enheten som ble brukt, redigeringshistorikk og mer. Informasjonen er digital signert med en privat nøkkel av opphavspersonen.

Mer informasjon om C2PA-løsningen kan man finne på nettsidene.