Datatilsynet om Italias ChatGPT-forbud: – Kan ha stor betydning for bransjen

Fredag sist uke gikk Italias datatilsyn Garante ut med et forbud mot ChatGPT etter flere anklager om brudd på personvern. Tilsynet mener ChatGPT verken har hatt hjemmel for å behandle de enorme datamengdene den trengte til trening eller kontroll på alderen til brukerne.

De pålegger selskapet OpenAI, som står bak den mye omtalte store språkmodellen, umiddelbart å stanse all behandling av data fra italienske brukere. Vedtaket er foreløpig og gjelder til selskapet respekterer EUs personvernregler, GDPR.

I praksis er vedtaket et forbud mot programvaren slik den er i dag.

Datatilsynet i Norge ønsker Garantes undersøkelser velkommen, skriver seksjonssjef Tobias Judin i Datatilsynet i en kommentar til Digi.

– Selskapene bak generative KI-er (kunstig intelligens, red.anm.) gir ofte lite informasjon om hvor treningsdataene kommer fra. Mange stiller spørsmål ved om dataene er innhentet og brukt på en lovlig måte. Derfor kan Garantes vedtak ha veldig stor betydning for bransjen, skriver han.

– Følger utviklingen tett

Han understreker at det er viktig at utviklingen av kunstig intelligens skjer på en ansvarlig måte, i tråd med regelverket, hvis vi skal kunne stole på den og ta den i bruk.

– Dessverre er ikke alle aktører like seriøse, som betyr at vi kanskje må stille noen kritiske spørsmål om personvern og de bakenforliggende forretningsmodellene.

Han kommenterer ikke hvorvidt det norske datatilsynet planlegger noen lignende vurdering av store språkmodeller generelt eller ChatGPT spesielt.

– Vi følger utviklingen tett og er spent på å se hvilke endringer ChatGPT nå vil gjøre, skriver Judin.

OpenAI har ikke kontor i EU, men har representanter i flere EU-land. De har nå 20 dager på seg til å innføre nødvendige tiltak, under trusler om bøter på opp til 4 prosent av selskapets globale omsetning.

OpenAI har heller ikke noe system på plass for å verifisere brukernes alder, mener Garante. Dermed kan unge brukere bli utsatt for upassende innhold.

Kritikk

ChatGPT har møtt mye kritikk den siste tiden. Tidligere i forrige uke gikk en rekke bransjefolk ut og ba om en pause i utviklingen av denne typen store språkmodeller.

Torsdag gikk den europeiske forbrukerorganisasjonen BEUC ut og ba europeiske tilsyn undersøke ChatGPT. Selv om EU jobber med nye reguleringer av AI, frykter organisasjonen at det kan ta årevis å få det på plass.