Skeptisk til at Datatilsynet får ansvaret for å følge opp AI Act i Norge

Tidligere i desember kunngjorde EU-parlamentet at det er oppnådd foreløpig politisk enighet om det kommende regelverket AI Act. Regelverket regulerer måten algoritmer designes i utviklingen av digitale løsninger, og forbyr enkelte typer bruk av kunstig intelligens.

Regelverket vil trolig også implementeres i Norge. Dette innebærer at lovverket følges opp og håndheves her hjemme gjennom en norsk tilsynsvirksomhet.

Abelia er skeptiske til at denne oppgaven legges til Datatilsynet, og skriver dette i sitt ferske innspill til regjeringens kommende digitaliseringsstrategi.

Oppgaven må bli satt til et tilsyn som fremmer innovasjon, og derfor ikke Datatilsynet, mener Abelia, som er foreningen for kunnskaps- og teknologivirksomheter i NHO.

– Vi er bekymret for at det vil forstyrre alt de gjør på personvern, det er krevende nok som det er. Vi må unngå å tenke at bare fordi de heter noe med «data», er det naturlig at de skal gjøre alt som handler om IT, sier Nils-Ola Widme, næringspolitiske direktør i Abeila til Digi.

Kritisk til Datatilsynets praksis

Den andre begrunnelsen er at Abelia er skeptiske til måten Datatilsynet driver sin praksis på i dag.

– Vi får stadig meldinger fra medlemmer i vår bransje om at Datatilsynet ikke er flinke nok til ha dialog med partene før de fatter vedtak.

– De har en praksis, en forvaltningskultur, som mange av våre medlemmer reagerer på, knyttet til manglende vilje til å ha en dialog med bedriftene. Og det må vi unngå på et område som kunstig intelligens.

Skepsisen handler derimot ikke om at de mener personvern er en motsetning til innovasjon i seg selv, understreker han.

– Enhver lovanvender som er overdrevent streng eller lite opptatt av dialog med bedriftene, vil hemme innovasjon. For det vil innebære at bedriftene blir redde.

Datatilsynet: – Naturlig at vi blir en sentral aktør

Datatilsynets direktør Line Coll skriver i en e-post til Digi:

– Vi er mange som er opptatt av det nye regelverket som er på trappene, og det er avgjørende at dette blir forvaltet på en god måte. Vi må forvalte dette regelverket klokt for både offentlige og private virksomheter, for at Norge skal lykkes i digitaliseringen fremover.

– Vi mener at det er naturlig at Datatilsynet er med som en sentral aktør her. Det er mye som må avklares, og vi ser frem til videre vurderinger og diskusjon.

Datatilsynet har ulike roller, understreker hun, når hun svarer på Widmes syn på tilsynets praksis.

– Noen ganger er vi på tilsyn, og da er oppgaven vår å sørge for at lovbrudd opphører. I de fleste sammenhenger gir vi imidlertid primært veiledning til virksomheter om hvordan de skal følge regelverket.

Dette skjer både i form av enkeltstående henvendelser til oss, og antallet slike veiledningshenvendelser vil komme opp i over 5000 for 2023, skriver Coll.

– Vi veileder også i form av lengre dialog og samarbeid med virksomheter. Datatilsynets sandkasse er et eksempel på dette, legger hun til.

Eget «algoritmetilsyn»?

Tilsynsoppgaven for AI Act kan for eksempel legges under Digitaliseringsdirektoratet eller Datatilsynet, eller det kan opprettes et helt nytt organ. Oppgaven kan også spres rundt på eksisterende tilsyn som får ansvar for å følge opp lovverket innen sitt felt. For eksempel at KI i medisinsk utstyr følges opp av et helseorgan.

Men Nils-Ola Widme i Abelia mener det ligger i kortene at noen må ha et særskilt ansvar for å håndheve AI act. Dette gir også mening fra EU-kommisjonens perspektiv, som ikke vil ha mange myndigheter å forholde seg til i hvert land, påpeker han.

Hva som er det beste hjemmet til den nye oppgaven, må regjeringen nå finne ut av.

– Inga Strümke har tatt til orde for et «algoritmetilsyn». Det er et ord som stemmer dårlig med norsk forvaltningstradisjon, men som nok setter fingeren ganske bra på hvor bedriftene kan tenkes å gjøre feil, sier Widme.

– Jeg anerkjenner at dette er en vanskelig forvaltningspolitisk oppgave, sier Widme, som selv har lang fartstid fra statlig forvaltning.

Flere EU-regelverk ventes å bli implementert i norsk lov de kommende årene. Organiseringen av hvem som får ansvaret for håndhevingen av de ulike reglene kommer til å være blant det viktigste arbeidet internt i regjeringsapparatet fremover, tror Widme.