KUNSTIG INTELLIGENS

EU setter seg i førersetet med regulering av kunstig intelligens

EU-parlamentarikere godkjente i forrige uke et av verdens første forslag til en omfattende regulering av kunstig intelligens. Resten av verden følger nøye med.

Et knippe roboter drevet av kunstig intelligens (KI). Nå er EU i ferd med å legge siste hånd på forskrifter som skal regulere KI.
Et knippe roboter drevet av kunstig intelligens (KI). Nå er EU i ferd med å legge siste hånd på forskrifter som skal regulere KI. Foto: Frank Augstein/AP/NTB
20. juni 2023 - 08:25

Avstemmingen i EU-parlamentet er ett av de siste stegene for at forskriften kan bli lovfestet. Nok en gang kan EU lage modellen som resten av verden følger. Det kan ta et par år før forslaget blir lov som gjelder for hele EU.

Ønsket om å sette opp kjøreregler for kunstig intelligens (KI) har vært der i mange år. Den raske utviklingen med blant annet språkmodellen ChatGPT aktualiserer reguleringsarbeidet. ChatGPT har blitt allemannseie og viser fordelene ved den nye teknologien – og noen utfordringer.

Risiko fra «minimal» til «uakseptabel

Forslaget som gikk gjennom EU-parlamentet, ble først fremmet i 2021. Det omhandler alle produkter eller tjenester som benytter seg av kunstig intelligens. Reguleringen klassifiserer KI-systemer i fire ulike risikonivå fra «minimal» til «uakseptabel», ifølge nyhetsbyrået Associated Press.

Mer risikable applikasjoner som til helse eller teknologi rettet mot barn vil møte hardere reguleringer, som å være mer åpen og å benytte seg av korrekte data.

Det blir opp til EUs 27 medlemsland å håndheve forskriften. Myndighetene kan tvinge selskaper til å fjerne applikasjoner fra markedet. I ekstreme tilfeller kan det utstedes bøter på opptil 40 millioner Euro, eller 7 prosent av overskuddet. Tek-giganter som Google og Microsoft kan dermed bli ilagt milliardbøter i euro etter denne forskriften.

Torbjørn Folgerø er direktør for digitalisering og IT i Equinor. Her er han i selskapets IOCT (integrert operasjonssenter) på Sandsli i Bergen.
Les også

Digitalisering har gitt Equinor en gevinst på 43 milliarder kroner

Forbudt å utnytte sårbare mennesker

Ett av de viktigste målene for EU er å verne mot at KI representerer en fare for helse, sikkerhet og fundamentale rettigheter. Det innebærer et forbud mot KI-systemer som klassifiserer og dømmer folk ut fra deres oppførsel.

Det blir også forbudt å utnytte sårbare mennesker, inkludert barn. I tillegg forbyr regelverket produksjon av interaktive leketøy som fremmer farlig oppførsel. Det blir heller ikke lov for politiet å benytte seg av verktøy som kan peke ut hvem som ligger an til å bli kriminelle i framtiden.

Politikerne skjerpet forbudet mot fjernstyrt ansiktsgjenkjenning i sanntid. Et omstridt motforslag som ville tillate politiet å bruke KI i jakten på savnede barn eller terrorister fikk ikke flertall bak seg.

Krav om å identifisere kopibeskyttet materiale

Innenfor arbeidsliv og utdanning stiller regelverket harde krav til brukernes rett til innsyn og  for å hindre at algoritmene utvikler partiskhet. De fleste KI-systemene, som spill eller spamfilter, hører hjemme i lavrisiko- eller ingen risiko-kategorien.

EU-parlamentet i Strasbourg vedtar nye retningslinjer som skal regulere bruken av kunstig intelligens. <i>Foto:  Jean-François Badias/AP/NTB</i>
EU-parlamentet i Strasbourg vedtar nye retningslinjer som skal regulere bruken av kunstig intelligens. Foto:  Jean-François Badias/AP/NTB

Den første forskriften nevnte knapt chatboter. Etter det raske inntoget til ChatGTP ble chatboter skrevet inn i kategorien «høyrisiko». Et kjerneelement i tillegget er kravet om å dokumentere om det er brukt kopibeskyttet materiale i KI-systemer som genererer tekst, bilder, video og musikk. Det vil gi innholdsleverandører kunnskap om deres blogg, e-bok, vitenskapelige artikkel eller sanger har blitt brukt i opplæringen av algoritmene som driver ChatGPT eller lignende tjenester.

EU ligger derimot ikke i førersetet i utviklingen av KI. Den rollen er det USA og Kina som innehar. Når store tek-selskaper skal reguleres, blir gjerne Brussels rolle å være trendsetteren som resten av verden ser til.

– Andre land kan tilpasse seg

Ifølge eksperter er EUs indre marked med 450 millioner konsumenter så stort at det kan være enklere for selskapene å spille med heller enn å utvikle ulike produkter for flere regioner. Med et felles regelverk for KI forsøker også Brussel å skape et marked der konsumentene føler seg trygge.

– Det er viktig at selskaper kan bli holdt ansvarlige med denne forskriften. I Singapore og USA har man knapt tenkt ut retningslinjer for KI. Andre land kan komme til å tilpasse seg og kopiere EU-forskriftene, sier teknolog Kris Shrishak, til AP.

Artikkelen fortsetter etter annonsen
annonse
Innovasjon Norge
På trappene til internasjonal suksess
På trappene til internasjonal suksess
EU-landene har gitt et siste grønt lys for verdens første lov som regulerer bruken av kunstig intelligens.
Les også

EU har vedtatt verdens første KI-lov

Boniface de Champris i tek-industriens lobbygruppe Computer and Communications Industry Association, mener det er et åpent spørsmål om EU-forskriftene vil gi EU-landene en lederposisjon i utvikling av ny KI.

– De nye KI-forskriftene må håndtere klart definerte risikoer, samtidig som utviklerne må ha nok rom til å utvikle KI-applikasjoner som er til nytte for alle europeere, sier han.

– Feil å innføre nå

Toppsjefen i OpenAI som har utviklet ChatGPT har støttet tanken om retningslinjer for KI.

– Men det er feil å innføre forskrifter nå, sier Sam Altman til AP.

Den britiske statsministeren Rishi Sunak vil også ta en lederposisjon i utviklingen av KI. Storbritannia forlot EU i 2020 og står fritt til å vedta egne reguleringer. Til høsten arrangerer Storbritannia et globalt toppmøte om sikkerhet innenfor KI.

– Mitt mål er at Storbritannia ikke bare blir det intellektuelle hjemmet for KI, men også det geografiske hjemstedet for globale sikkerhetsforskrifter for KI, sa Sunak på en konferanse i forrige uke.

Kriminaliteten har i 2023 hatt stor geografisk spredning og rammet bredt, skriver Kripos-sjef Kristin Kvigne i en rapport om cyberkriminalitet.
Les også

Utropstegn ved KI i rapport om cyberkriminalitet

Del
Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.