Det har blitt «umulig» å skille ekte innhold fra KI-innhold på nett

Om du tilbringer en del tid på nettet, har du helt sikkert lagt merke til at KI-generert innhold har begynt å oversvømme mange plattformer – og til en viss frustrasjon kan innholdet ofte være tilnærmet umulig å skille fra ekte innhold.

KI-selskapene selv anerkjenner problemet, og nå har Google kommet med en løsning som kan gjøre jobben med å «autentisere» innholdet en smule enklere. Blant andre Digital Trends fanget opp saken.

På nettsidene sine opplyser Google at Chat GPT-rivalen deres Gemini nå har blitt utstyrt med evnen til å sjekke hvorvidt en video er KI-generert – vel å merke hovedsakelig for videoer generert med Googles egne verktøy.

Skanner etter vannmerke

Alt man trenger å gjøre er å laste opp en video direkte i Gemini og spørre tjenesten om hvorvidt den er ekte eller ei. Gemini vil da skanne videoen etter Googles vannmerke, som er usynlig for det blotte øyet.

I tillegg til å omfatte videoer laget med Googles egne KI-verktøy, har den nye funksjonen også den begrensningen at videoene som lastes opp kun kan ha en størrelse på opptil 100 megabyte, og være maksimalt 90 sekunder lange. Dette skulle likevel ligge innenfor formatet til svært mange internettvideoer.

Nyheten kommer en måneds tid etter at Google kunngjorde den samme løsningen for KI-bildegjenkjenning, som altså også fungerer direkte i Gemini.

Teknologien bygger på Googles såkalte SynthID-løsning, som selskapet først introduserte i 2023. Konseptets innebærer å bygge inn «usynlige» vannmerker i det KI-genererte innholdet – direkte inn i selve pikslene – på en måte som skal bevare innholdets opprinnelige kvalitet.

SynthID-teknologien skanner så innholdet etter disse vannmerkene i både audio- og bildedataene, og responsen forteller brukeren spesifikt hvilke elementer som ble generert med Google AI, og hvor SynthID-vannmerket befinner seg.

20 milliarder allerede vannmerket

For å bidra til å spre teknologien bredest mulig, har Google gjort løsningen åpen, slik at utviklere kan bygge med teknologien og integrere den i sine egne modeller. Om SynthID-teknologien slår bredt an, vil den med andre ord bli enda mer nyttig i tiden fremover.

Ifølge Google har over 20 milliarder KI-genererte biter med innhold blitt vannmerket med SynthID siden teknologien ble lansert i 2023.

Google har sagt at løsningen er relativt robust i den forstand at vannmerkene kan fanges opp selv når innholdet deles og/eller endres. Selskapet har innrømmet at løsningen ikke er idiotsikker mot «ekstreme» former for bildemanipulering, men den er fremdeles under utvikling.

Selskapet jobber med å bygge SynthID-løsningen inn i flere tjenester, ikke minst selve søketjenesten.

Det finnes også andre tilnærminger til å identifisere KI-generert innhold. Digi har tidligere rapportert om organisasjonen Coalition for Content Provenance and Authenticity (C2PA) – et initiativ som flere store teknologiaktører, inkludert Google selv, Meta, Microsoft og Open AI – har stilt seg bak.

Digital signatur

Organisasjonen jobber med å utvikle tekniske standarder for å sertifisere kilden og historien/opprinnelsen til digitalt innhold – inkludert KI-innhold.

C2PA-spesifikasjonen innebærer i korte trekk å bruke en generator til å utstyre digitale ressurser med data som signeres digitalt med en privat nøkkel av opphavspersonen(e).

Google sier de jobber med å gjøre sin egen SynthID-løsning kompatibel med C2PA-teknologien, som betyr at man kan bruke Googles verktøy til å også avsløre KI-generert innhold laget av andre aktører.

KI-innhold på nett øker i et ekstremt tempo. Ifølge data samlet inn av nettstedet SQ Magazine, anslås det for eksempel at rundt 70 prosent av bildene som deles på sosiale medier nå er KI-genererte.