Politikere innrømmer: Kompromiss om AI Act hjelper Big Tech

EU har i en årrekke rullet ut flere store digitale lovpakker som i hovedsak er utformet for å regulere og begrense de amerikanske teknologigigantene. I denne sammenhengen AI Act – KI-forordningen – ment som et vern mot uansvarlig bruk av kunstig intelligens.

Med vedtaket av EUs digitale «Omnibus» – en slags konkurransefremmende reform av disse lovpakkene – har KI-forordningen imidlertid blitt betydelig trimmet på avgjørende punkter. Det kan ende opp med å bli en stor fordel for de amerikanske teknologigigantene, som ellers ville måttet forholde seg til hele det juridiske paradigmet. Dette er vurderingen fra flere danske EU-parlamentarikere.

– Hvis vi skulle begrense Chat GPT og andre ikke-europeiske språkmodeller på det nåværende tidspunktet, ville vi også ha skapt et miljø for europeiske selskaper der det var vanskelig å utvikle seg. Så det er en vanskelig sak, sier sier Christel Schaldemose, som er medlem av EU-parlamantet for det danske partiet Socialdemokratiet.

– Men hvis vi hadde bedre håndheving av noen av de eksisterende reglene, som GDPRs dataminimeringsprinsipp, tror jeg man kunne gjort mer. Det høstes langt mer data enn det som er tillatt. Derfor har de kunnet trene alle disse språkmodellene på data som vi alle har lagt ut på sosiale medier.

Høyrisiko i fokus

Såkalt General Purpose AI (GPAI) har sitt eget sett med regler, men typisk vil systemer som Open AIs Chat GPT eller Googles Gemini-modell også være dekket av AI Acts regler for såkalte høyrisikosystemer. Nå er imidlertid fristen for når selskaper må overholde disse reglene, flyttet til henholdsvis desember 2027 og august 2028.

For eksempel må GPAI-modellene gi teknisk informasjon til myndighetene, ettersom de kan utgjøre en såkalt systemisk risiko. Blant annet må de gi informasjon om hvordan de minimerer risikoen for misbruk knyttet til cybersikkerhet og spredning av feilinformasjon – men disse kravene skal altså først være oppfylt om flere år.

I tillegg slipper teknologigigantene i denne perioden å publisere og verifisere hvilket innhold som har blitt brukt til å trene modellene deres, og hvordan de respekterer EUs opphavsrettsregler, inkludert muligheten for «opt-out» for rettighetshavere.

Her har hensynet til at europeiske selskaper skal kunne ta igjen sine amerikanske konkurrenter overgått de tidligere kravene til de samme amerikanske selskapene, forklarer EU-parlamentsmedlem Kira Marie Peter-Hansen fra Socialistisk Folkeparti i Danmark:

– Rent politisk står vi overfor utfordringen med at det både reguleringsmessig og politisk er vanskelig å skape en bransje. Det krever et økosystem der det investeres og der den nødvendige arbeidsstyrken er til stede – og akkurat nå flytter de bare til Silicon Valley. Det er litt av en catch 22 å lage lovgivning som også skal drive markedsutviklingen.

IP-tyveri

Ettersom det i praksis verken er åpenhet eller effektivt tilsyn med hvordan de store KI-modellene trenes, skjer det omfattende tyveri av opphavsrett og immaterielle rettigheter, noe som ikke bare skader for eksempel mediene, kunstnere og musikere, slik det har vært fokus på i mediedekningen. I prinsippet kan også medisinske patenter havne i treningsdataene hos Chat GPT.

– Vi legger opp til at man får en skandinavisk modell for opphavsrett. Men det må gå raskere enn de ti årene det tok EU på resten av opphavsrettsområdet. Med den hastigheten det er på KI-området, kan mange være out-of-business allerede om to–tre år. Så du har ikke hørt det siste av oss i den diskusjonen, sier Morten Løkkegaard, representant for danske Venstre i EU-parlamentet.

Tilgang til data har vært det største dilemmaet, forklarer Christel Schaldemose.

– Det er en gigantisk og vanskelig sak fordi de amerikanske gigantene har dataene, og hvis europeerne skal bygge modeller som er like gode, hvor skal de få dataene fra, hvis det ikke også er våre data? Så det er supervanskelig. Vi har valgt å si at vi skal være med i kappløpet om KI, og derfor har vi måttet gjøre det enklere å jobbe med, noe som betyr at visse ting har blitt forsinket. Det er det riktige å gjøre, men det kommer med en pris.

Niels Flemming Hansen, som er EU-parlamentsmedlem for Det Konservative Folkeparti i Danmark, mener i likhet med flere kolleger at mer lovgivning ikke nødvendigvis er løsningen.

– Mange av opphavsrettsbekymringene kan løses ved å håndheve eksisterende lovgivning, mener han.