Enighet om europeiske KI-regler

Etter 24 timer med debatt og 15 timer med forhandlinger ble til slutt EU-parlamentet og rådet enige.

Nå starter arbeidet med å innføre felles EU-regler om kunstig intelligens.

Norges digitaliseringsminister, Karianne Tung, er begeistret.

− Det betyr at vi i Norge også kan starte arbeide med å forberede innarbeidelsen hos oss på en god og sikker måte som skal ivareta grunnleggende rettigheter. Bra for næringslivet og bra for innovasjonskraften vår, skriver Tung i et innlegg på Linkedin.

De nye reglene skal sikre at demokratiet, våre grunnleggende rettigheter, klimaet og lover og regler er beskyttet mot den høye risikoen i kunstig intelligens, skrev EU-parlamentet i en pressemelding fredag.

Uakseptabel risiko

Reguleringene er først og fremst utformet etter graden av risiko som de ulike formene for kunstig intelligens medfører, i den forstand at høy risiko fordrer strengere regler, og motsatt.

Den kanskje mest interessante delen av avtalen omhandler de formene for KI-anvendelser som ifølge EU har en «uakseptabel» høy risiko, og derfor vil bli bannlyst etter de nye reglene.

– For noen anvendelser av KI er risikoen ansett som uakseptabel, og derfor vil disse systemene gjøres ulovlige i EU. Avtalen bannlyser for eksempel kognitiv, adferdsmessig manipulering, uspesifisert innsamling av ansiktsbilder fra internett eller video fra overvåkningskameraer, følelsesgjenkjenning på arbeidsplassen og utdanningsinstitusjoner, sosiale poengsystemer (social scoring), biometrisk kategorisering for å hente ut sensitive data, slik som seksuell legning eller religiøs overbevisning, og noen tilfeller av prediktiv politivirksomhet for individer, heter det i pressemeldingen.

Forbyr flere typer bruk

EU-parlamentet har blitt enige om å forny flere typer bruk av kunstig intelligens.

Det blir ulovlig å bruke biometri til å kategorisere folk i grupper etter legning, politisk tilhørighet eller religiøs og filosofisk tilhørighet.

Det blir ulovlig å skrape bilder av ansikter fra nettet eller overvåkingskameraer for å lage databaser for ansiktsgjenkjenning.

EU forbyr programvare for å kjenne igjen ansiktsuttrykk og følelser på arbeidsplasser og studiesteder.

Det blir forbudt med løsninger for sosial scoring, og det blir forbudt å bruke Ki-systemer som «manipulerer menneskelig atferd for å omgå deres frie vilje».

Stiller krav til Chat GPT

Den nye loven stiller krav til grunnleggende KI-modeller som store språkmodeller og generelle KI-systemer til å sikre transparens i form av teknisk dokumentasjon, og at modellene overholder lover om opphavsrett og gir detaljerte oppsummeringer om hvilket materiale som er brukt til å trene modellene.

Modeller som regnes som høy-risiko-modeller, må dessuten gjøre jevnlige evalueringer av modellen og dokumentere hvilke tiltak de gjør for å ta ned risikoen.

Truer med høye bøter

Alle skal ha mulighet til å klage inn ulovlig bruk av kunstig intelligens, og bøtene EU kan true med i tilfelle lovbrudd, kan ligge så høyt som syv prosent av global omsetning.

Det kan med andre ord dreie seg bøter på flere hundre millioner til selskaper av en viss størrelse.

Flere norske partier har tatt til orde for rask innføring av EU-regulering av kunstig intelligens i norsk lovverk.

Det er svært sannsynlig at reglene også blir gjeldende i Norge.