Teknologirådet: Mye handlingsrom for egen KI-regulering i Norge

– Først og fremst er dette forslag til lov som kommer med krav til KI-produkter som skal selges på markedet. Så spørsmålet gjenstår her i Norge; hvilke produkter er det som faktisk kommer? Hva skal vi bruke kunstig intelligens til? Mye blir fortsatt opp til oss å bestemme, sier gruppelederen for Stortingets egen spesialistgruppe for generativ kunstig intelligens, Jonas Wetre.

De nye forslagene til regulering av generativ kunstig intelligens ble vedtatt i Europa parlamentet for litt over to uker siden, og nå diskuterer et ekspertpanel i Teknologirådet hva et norsk regelverk og lovverk bør inneholde.

– Det legger jo en slags overhengende lag på hva som er mulig å gjøre politisk i Norge. Men vår analyse av det er jo at det er ganske mye handelsrom igjen, for norske politikere, sier Wetre.

Kjærkommen informasjon

Prosjektgruppen han leder er bredt sammensatt med blant annet av både jurister, IT -folk og en professor i filosofi. De møttes første gang i mars i år og i tirsdagens møte hadde de fått klarhet i hva EUs egen komite, råd og parlament ønsker skal gjøres for å regulere kunstig intelligens i den nye forordningen AIACT.

Ifølge gruppelederen var det konsensus også i det norske rådet om at forslagene gir et godt rammeverk for regulering av bruk og utvikling av KI produkter i Europa og i Norge.

– Jeg vil nok si at alle er stort sett enige om at skallet som EU og AIACT presenterer er bra og kjærkomment. Så skal det litt mer arbeid til og loven er ikke ferdig forhandlet, men pågår fortsatt, presiserer Wetre.

Kort fortalt innebærer det ferske lovforslaget fra EU en rangering for produkter med kunstig intelligens etter risiko for individers trygghet og rettigheter, og stiller krav ut fra det, ifølge teknologirådets egen oppsummering av forslagene.

Må tegnes en spillebane

– Vi er nødt til å ha spilleregler. EU har gjort et godt arbeid med AIACT og Forbrukerrådet kom nå med en ny rapport i forrige uke der de har kartlagt dette fra et forbrukerperspektiv. Det er ikke tvil om at mange kan bli bekymret for hva generativ KI faktisk kan gjøre, men teknologien er jo her. Så da er det bra at myndighetene går foran og sier dette skal vi være med å regulere, sier ett av rådets medlemmer, Daniel Kohn, til Digi etter tirsdagens gruppemøte.

Kohn er kommersiell direktør for den norske programvareprodusenten Simplifai, som blant annet leverer software for automatisert e-post og kommunikasjonsløsninger med predikativ KI.

Han representerer leverandørmarkedet i ekspertgruppa, der han og åtte andre medlemmer skal rådføre Stortinget om utviklingen av et lovverk for generativ KI fremover. Kohn mener regulering både vil frigi kreative prosesser og bidra positivt i utvikling av KI, fordi aktørene vet hvilke rammer de skal forholde seg til. Hvis det blir fritt spillerom, kan konsekvensene bli store.

– Hvis vi ikke regulerer produktene, styrer kjøperne og hjelper dem, kan du ende med et anarki og da lager folk hva som helst. Da får du et prøve-og-feile-opplegg, fremfor at du tar et aktivt standpunkt, sier Kohn som synes EU nå har vært tøffe som går ut med tydelige krav og forventninger til hva som skal være lov og ikke.

Behovet for et regelverk er prekært for at det skal kunne bygges opp en større næring rundt den nye teknologien. Selskapene som satser penger trenger å vite at investeringen også står seg når det kommer flere regler fremover, forklarer han.

Rådfører politikere

– Målet for gruppa er å komme frem til politiske anbefalinger til Stortinget, og øvrige myndigheter om hva de bør gjøre nå. Både for å utnytte mulighetene, men også for å beskytte mot risikofaktorer med kunstig intelligens og teknologiutvikling. Så vi kommer til å skrive en rapport, der vi kartlegger og kommer med anbefalinger til slutt, sier gruppeleder Jonas Wetre.

Han peker på at det må bestemmes egne nasjonale lover for bruk av læringsanalyse i norske klasserom som ett eksempel.

I en videokonferanse om forordningen for litt over en uke siden, diskuterte teknologirådet de juridiske følgene i forslagene, og hva vi kan forvente av lovverket som skal etableres fremover ble diskutert.

– Den vil ivareta en del grunnleggende rettigheter og friheter, men dette er hovedsakelig en produkt -regulering, sa Mona Naomi Lintvedt, stipendiat ved Institutt for privatrett ved Universitetet i Oslo.

Hun er også en av medlemmene i ekspertutvalget for KI.

– På samme måte som vi har CE-merking av alle elektroniske produkter vil dette også stilles til KI systemene og hvordan de skal utvikles, merkes og brukes for å være trygge, sikre produkter, sa jusseksperten i sin presentasjon til rådet fredag.

Avgjørende ressurs for fremtiden

Simplifais og salgslederens innsikt i ekspertgruppen, er en del av et større bilde om å få på plass gode og trygge rammer for bransjen og kundene, forklarer selskapets administrerende direktør og grunnlegger Bård Myrstad. Han er i likhet med sin ansatt i ekspertgruppa positiv til forslagene fra EU, og oppstartsgründeren mener AIACT har en pragmatisk tilnærming med å vekte nytte mot risiko.

– Vi er helt nødt å frigjøre menneskelig kapasitet til å håndtere alle de utfordringene vi står ovenfor med mindre folk til å løse oppgavene. Det går ikke an å stikke huet i sanden og forby de verktøyene som kan hjelpe oss. Det er konteksten lovgiverne må se dette i, sier Myrstad.

Det må skapes veldig mye merverdi per hode for å opprettholde levestandarden, fortsette han.

– Vi lever lengre. Vi får færre barn. Og vi får barn senere. Trendene er ikke bare i Vesten, men også i utviklingsland, og det blir betydelig færre mennesker som skal jobbe og skape verdier målt mot de som skal tas vare på.

Kohn tror at det aller viktigste rådet han kan gi politikerne som skal sette reglene er at de må fokusere på å forby det som virkelig er farlig, og ikke være redd for å diskutere konsekvenser av lovgivningen.

– Nå kommer reguleringene som alle må forholde seg til og selskaper som ikke fokuserer på compliance vil få det vanskelig. Nå kan både kjøpere og leverandører tilpasse seg, sier Kohn.