Elon Musks KI-modell generte store mengder overgrepsmateriell. Men regjeringen vil ikke forby Grok

Digitaliseringsminister Karianne Tung avviser at Norge bør innføre et nasjonalt forbud mot teknologiselskaper som genererer og sprer seksualiserte KI-bilder.

Tall fra Center for Countering Digital Hate viser at KI-modellen Grok, utviklet av xAI og tilgjengelig via plattformen X, i løpet av elleve dager skal ha generert tre millioner seksualiserte bilder etter brukerbestillinger. Rundt 23.000 av bildene var av barn.

– Jeg har forståelse for at flere kan ha et ønske om at myndighetene skal blokkere nettjenester som muliggjør spredning av ulovlig innhold til norske borgere. Jeg mener likevel at risikoen for slik spredning ikke bør løses med blokkering av enkelte tjenester, men med harmonisert regulering, skriver Tung i en e-post til Digi.

– En klar svakhet i regelverket

I et skriftlig spørsmål spør stortingsrepresentant Mirell Høyer-Berntsen (SV) hvorfor regjeringen ikke vil forby teknologiselskaper å generere og spre seksualiserte KI-bilder av personer.

Norge har et lovverk som strafflegger enkeltpersoners deling av slikt materiale, påpeker hun, og mener det fremstår som en klar svakhet at det ikke stilles tilsvarende krav til selskapene som muliggjør og tilrettelegger for produksjonen i et omfang enkeltpersoner ikke kan matche.

Digitaliseringsminister Tung mener blokkering av enkelttjenester ikke er riktig vei å gå, og viser i sitt svar til Stortinget til at regjeringen prioriterer å gjennomføre EUs regelverk for digitale tjenester (DSA) i norsk rett.

– Regjeringen jobber så raskt vi kan med å gjennomføre både DSA og KI-forordningen i norsk rett, og vi jobber med å innføre en aldersgrense på sosiale medier for sterkere beskyttelse av barn, skriver hun til Digi.

– Vi ser at teknologiselskaper vanligvis endrer sine tjenester raskt når misbruk av disse blir oppdaget, skriver hun til Digi.

DSA er et fullt harmonisert regelverk, som betyr at landene ikke kan fastsette mer omfattende eller strengere regler på nasjonalt nivå, med mindre DSA eller andre EU-rettsakter åpner for det, understreker hun i sitt svar i Stortinget.

Gransking i EU

EU-kommisjonen har begynt en gransking av X etter DSA, som blant annet skal vurdere risiko for spredning av ulovlig innhold knyttet til til tilgjengeliggjøring av Groks funksjoner på X, eksempelvis KI-genererte bilder med ulovlig seksualisert innhold og bilder som viser seksuelle overgrep mot barn.

– Hvis undersøkelsen bekrefter at slikt innhold har blitt generert og spredt på X, vil det kunne innebære brudd på forpliktelser i DSA. Og hvis bruddet er alvorlig eller vedvarende, kan EU-kommisjonen ilegge overtredelsesgebyr på opptil 6 prosent av selskapets globale årsomsetning. I ekstraordinære tilfeller kan tilgangen til tjenesten i EU begrenses midlertidig, skriver Tung.

Foreslår forbud

SV ønsker et nasjonalt forbud mot Grok, og nasjonale reguleringsmekanismer som beskytter barn særlig, forteller stortingsrepresentant Høyer-Berntsen til Digi.

– Vi er bekymret for at det tar lengre tid enn antatt å implementere DSA og DMA i norsk lov, skriver hun i en SMS.

– SV ønsket forbud nå i 2026 nettopp fordi skadepotensialet ikke er hypotetisk, men dokumentert, skriver hun.

Partiet har foreslått et forbud mot at teknologiselskaper genererer eller sprer seksualiserte KI-bilder i behandlingen av stortingsmeldingen «Trygg oppvekst i et digitalt samfunn». Stortinget behandlet forslaget tirsdag ettermiddag.

– Dette ser nå ut til å få et bredt flertall, skriver hun.

– Jeg har utfordret barne- og familieminister Lene Vågslid (Ap) på om hun faktisk kan bekrefte at EU har på plass et forbud, og om Norge kan ha strengere nasjonale regler for å beskytte barn og unge, slik vi har på mange områder, uten at det utfordrer EØS-regelverket, skriver hun.

– Et tegn på handlingslammelse

Også Stortingsrepresentant Marius Langballe Dalin (MDG) stilte i januar et spørsmål til digitaliseringsministeren om regjeringen vil vurdere tiltak mot tjenester som tillater og understøtter ulovlig KI-generert overgrepsmateriell, «for eksempel å pålegge at slike tjenester blir blokkert fra Norge i påvente av at tilstrekkelige sikkerhetsmekanismer implementeres».

– Jeg synes svaret er altfor passivt. Jeg mener vi må kunne ta klart stilling mot tjenester som bidrar aktivt til å publisere bilder som etter alt å dømme er straffbare, og virker sterkt krenkende for de som rammes, skriver Dalin i en epost til Digi.

– At for eksempel unge kvinner kan oppleve å finne KI-genererte nakenbilder av seg selv i offentligheten uten at verken tjenesten Grok eller statsråd Tung tar ansvar og stanser det er uakseptabelt og et tegn på handlingslammelse. At Grok nå krever betaling for deler av tjenestene gjør ikke saken noe bedre, skriver han.