Etter to år med nasjonal strategi for kunstig intelligens trengs opplæring og struktur

Det er nå to år siden Nasjonal strategi for kunstig intelligens ble lagt frem. Strategien siktet høyt, men strukturene mangler fremdeles.

Etter to år med nasjonal strategi for kunstig intelligens trengs opplæring og struktur
Leonora Bergsjø, PhD, forsker på digital etikk ved UiA og HiØ og er leder i Norsk Råd for Digital Etikk (NORDE). Inga Strümke, PhD, forsker på kunstig intelligens ved NTNU og Simula og er styremedlem i Norsk Råd for Digital Etikk Foto: Gerd Altmann/Pixabay

I januar 2020 hadde Norge en digitaliseringsminister, Nikolai Astrup, og i likhet med mange andre land fikk vi en strategi for kunstig intelligens. Ifølge strategien skal den høye tilliten som kjennetegner det norske samfunnet, opprettholdes og forsterkes samtidig som kunstig intelligens tas i bruk på nye og innovative måter. Det skal skje gjennom en etisk forsvarlig digitalisering.

Et grunnleggende prinsipp for pålitelige kunstig intelligente systemer er at de skal være lovlige, etiske og sikre, og ifølge strategien vår skal alle systemer som utvikles og tas i bruk i Norge, være pålitelige. Systemene skal bygge på etiske prinsipper, respektere menneskerettighetene og demokratiet, ivareta den enkeltes integritet og personvern og være sikre – dette er det vanskelig å være uenig i.

Men selv om målene er selvfølgelige, er de også ambisiøse. Vi har sett mange eksempler på at det ikke er en selvfølge at kunstig intelligente systemer respekterer etiske prinsipper:  Demokratiske valg over hele verden er blitt manipulert, den amerikanske kongressen ble stormet etter egging på Twitter, og folkegrupper og enkeltpersoner overvåkes kontinuerlig, alt ved hjelp av digitale verktøy. Men vi trenger ikke se ut over Norges grenser for å finne etisk betenkelige digitale praksiser. Tjenester som de fleste nordmenn bruker daglig, som Google og Facebook, har også praksiser som strider med prinsippet om pålitelig og etisk forsvarlig kunstig intelligens. Forbrukerrådet har klaget inn Google for brudd på personvernlovgivningen, og Datatilsynet har vurdert personvernbruken til Facebook og funnet den for risikabel til å kunne bruke mediet.

Les også

Ny regjering må prioritere etisk digitalisering

Under pandemiens hastedigitalisering har funksjonalitet stått i fokus, og nå har tiden kommet for å sikre pålitelige løsninger. Dette gjør vi gjennom norsk innovasjon i tråd med strategiens mål. Men for å sikre dette trengs kompetanseheving på feltene kunstig intelligens og digital etikk. Finland har utmerket seg som pioner innen opplæring og folkeopplysning på kunstig intelligens, da deres innføringskurs «Elements of AI» – som også er tilgjengelig i Norge – er blitt gjennomført av over 2 prosent av befolkningen. Vi bør sikte like høyt i Norge, da kunnskap er en forutsetning for et velfungerende demokrati. Dette innebærer mer opplæring i digital etikk både for befolkningen generelt og for enkeltgrupper, som utviklere.

Ifølge SSB brukte én av ti norske bedrifter kunstig intelligens i 2021, og vi forventer at andelen vil øke. Derfor er vårt beste valg å øke kompetansen – men også å skape bedre strukturer for å sikre etisk forsvarlig utvikling. Bedre strukturer for kontroll av systemer basert på kunstig intelligens er et område vi mener er særlig viktig å fokusere på i 2022.

Strategien sier at tilsynsmyndigheter skal føre kontroll med kunstig intelligente systemer. Digitale verktøy utvikler seg fremdeles så raskt at det er utfordrende å holde tritt med både lovverk og etikk. Et eget tilsyn med algoritmer er blitt etterlyst gjentatte ganger av norske fagpersoner, og vi er spente på hvordan den nye regjeringen vil forholde seg til denne oppfordringen.

Økt fokus på bærekraft

Ny teknologi bringer med seg en rekke etiske utfordringer, ikke minst knyttet til å finne bærekraftige løsninger. I strategien  fremheves også ambisjonen om Norge som datasenternasjon, som sier at Norge skal være en attraktiv nasjon for datasentre og annen datadrevet næring.

Denne visjonen er imidlertid ikke sett i sammenheng med den etiske refleksjonen. Se for eksempel debatten rundt det planlagte datasenteret til Google i Skien, som kan stoppe et grønt skifte i området, blant annet fordi Google kan kaste bort vann som kunne varmet opp 350.000 leiligheter. Visjonen om datasentre må kobles tettere til etiske prinsipper, inkludert demokrati og bærekraftsmål, og også her trengs struktur og politisk lederskap for å sikre ansvarlig utvikling.

Les også