Usynlig mønster skal avsløre KI-tekst

Bedrifter og profesjonelle brukere må nå være åpne om bruken av kunstig intelligens (KI). Det er kjernen i EUs transparenskrav, som trådte i kraft 2. august.

Her krever AI Act, EUs lov om kunstig intelligens, at produkter og tjenester som er fremstilt av KI, merkes, slik at brukere er klar over at innholdet er KI-generert, ifølge EU-kommisjonen.

Merkingen kan for eksempel gjøres med såkalte vannmerker.

Vannmerking er et usynlig mønster i ordsammensetningen som gjør det mulig å avsløre om KI har skrevet, eller bidratt til å skrive, en tekst.

Daglig leder Liv Dingsør i Digital Norway sier til Digi at den viktigste fordelen med vannmerking er at det blir mulig å ettergå hvor teksten kommer fra.

– I dag har vi ingen pålitelig måte å avgjøre om en tekst er skrevet av et menneske eller en språkmodell. Såkalte KI-detektorer gjetter basert på skrivestil og tar ofte feil, sier hun.

Dingsør sier at et vannmerke er et matematisk mønster som ligger i selve ordvalgene, og som kan verifiseres av den som har nøkkelen.

– I praksis betyr det at man kan avdekke bot-kontoer som pumper ut KI-tekst i stor skala, spore desinformasjonskampanjer og gi plattformer og redaksjoner et verktøy for å vurdere innhold.

Skjer automatisk

Dingsør sier at vannmerker ikke inneholder informasjon om den brukte KI-modellen. Det kan heller ikke spores tilbake til en person, en virksomhet eller en samtale.

– Det svarer kun på ett spørsmål: Hvor sannsynlig er det at denne modellen var involvert i å skrive teksten?

Anthropic har varslet at de skal begynne med vannmerking av tekst generert av deres ulike Claude-modeller, for å oppfylle kravene i AI Act.

Alle nye modeller som lanseres etter 2. august, vil ha merkingen fra dag én, men Anthropic jobber også med å implementere den på tidligere modeller.

Dingsør forklarer at vannmerkingen skjer automatisk hos leverandøren. Brukeren vil heller ikke merke noen forskjell på om det er et vannmerke der eller ikke.

Hun sier det rent teknisk fungerer slik at når en språkmodell skriver, velger den ett ord av gangen. Ofte er flere ord omtrent like treffende, som for eksempel «grå» eller «overskyet» i en setning om været.

– Normalt avgjøres slike valg av ren tilfeldighet. Med vannmerking byttes tilfeldigheten ut med en hemmelig nøkkel, som styrer valgene på en måte som ser tilfeldig ut, men som kan gjenkjennes i etterkant av den som har nøkkelen, forklarer hun.

– Ingenting legges til i teksten, og det er ingen skjulte tegn, så mønsteret ligger i selve ordvalgene.

EU-reglene treffer Norge

AI Act er som kjent ikke en del av norsk lov.

Norge jobber imidlertid med å innføre den i en egen norsk KI-lov.

Et utkast til loven ble sendt på høring i fjor sommer. Den opprinnelige planen var at loven skulle tre i kraft på sensommeren i år, men planen er forsinket.

Dingsør understreker at EU-reglene likevel treffer oss på flere måter.

Hun peker på at AI Act gjelder for norske virksomheter som tilbyr KI-systemer i EU-markedet, eller hvis systemets output brukes i EU. I tillegg ruller leverandørene ut vannmerking globalt, ikke bare i Europa, så norske brukere får teknologien uansett.

– For det tredje vil den kommende norske KI-loven etter alt å dømme speile de samme kravene, så virksomheter som forbereder seg nå, sparer seg arbeid senere, sier Dingsør.

De nye transparenskravene i AI Act trådte som nevnt i kraft 2. august og har en overgangsperiode frem til 2. desember for systemer som var på markedet før den datoen.

Bedrifter kan få store bøter dersom de ikke overholder regelverket.

– For norske privatpersoner er svaret enklere: Personlig, ikke-profesjonell bruk er unntatt fra AI Act. Bruker du KI til private e-poster eller egne notater, angår ikke dette deg, sier Dingsør.

Verdt å tenke på

Når det kommer til mulige negative konsekvenser, mener Dingsør det er noen ting det er verdt å tenke på.

– Den første er tekstkvalitet. Innvendingen er at modellen får færre frihetsgrader når den velger ord, og at det over tid kan gjøre språket flatere, sier hun.

Det andre hun trekker frem, er falsk trygghet, da det finnes kjente omveier rundt vannmerkene. Dingsør forklarer at dersom teksten skrives nøye nok, ord for ord, forsvinner mønsteret. I tillegg finnes det tekniske metoder for å omgå merkingen.

Digital Norway-sjefen sier at man for det tredje bør merke seg kulturen bak bruken.

– Målet med transparenskravene bør ikke være å avsløre eller mistenkeliggjøre folk som bruker KI, det gjør snart alle. Men det blir spennende å se om akkurat den effekten står seg, når terskelen er så lav for å anse tekst som «AI-manipulated» slik tolkningen er nå, sier hun.

– I mitt hodet er poenget med åpenhet å gjøre det enklere å ha tillit til innhold: Å vite hva KI har bidratt med, hva et menneske har vurdert og hvem som står ansvarlig for sluttresultatet.