Derfor vil SV trekke i AI-nødbremsen

− Utviklingen skjer veldig raskt på kunstig intelligens-feltet, og reguleringen holder ikke tritt, sier SVs Torgeir Knag Fylkesnes på telefon til Digi.

Den 9. mai leverte han og Marian Hussein et representantforslag om AI og dataøkonomi. Hovedbudskapet: Det er på tide å trekke i nødbremsen.

Etter den rasende utviklingen, spesielt av generativ AI, frykter SV at teknologien er ute av kontroll. Og at de store modellene ikke bare henter data om oss i stort omfang, men kan ha samfunnskonsekvenser vi fortsatt ikke vet rekkevidden av.

− Midt oppe i den vanvittige raske utviklingen som er utenfor demokratisk regulering, har også en rekke tech-folk, inkludert Wozniak, og Musk, tatt til orde for at utviklingen går for fort, og at det trengs en pause, sier Fylkesnes og viser til oppropet om en seks måneders pause i utviklingen av språkmodeller kraftigere enn GPT-4, som en rekke bransjefolk undertegnet.

Kjenner ikke konsekvensene

Utviklingen skjer i stor grad hos de store teknologikjempene, og vi har verken kontroll over, eller vet hvordan modellene fungerer mener Fylkesnes.

− Vi vet ikke hva slags konsekvenser det har for folks helse og velferd, for mediene og for samfunnsutviklingen, sier han.

Språkmodellene er i seg selv uforutsigbare og upålitelige, og programmer som bygges på dem arver problemene. Utviklerne som bygger løsningene på modellen, klarer ikke å forutse hva som skjer, mener SV.

− Det har vært saker om hvordan kunstig intelligens hallusinerer, diskriminerer og manipulerer, sier Fylkesnes og legger til:

− Dessuten er det vanskelig å vite hvordan de fungerer, for selskapene holder det hemmelig.

Han trekker frem eksempler der ulike former for hets, sjikane, rasisme og diskriminering har blitt forsterket av modeller for kunstig intelligens. Skal utviklingen innen kunstig intelligens skje på folks premisser, og innenfor demokratisk kontroll, er det behov for en pause og reguleringer, mener SV.

Haster å regulere

Vi trenger strategier for hvordan ulike sektorer skal forholde seg til teknologien, og kanskje ha en idé om hvilke konsekvenser den kan ha for ulike yrkesgrupper, mener SV.

I Italia er allerede fondet som skal hjelpe arbeidsfolk som sitter i jobber som kan bli tatt over av ulike former for AI, på plass.

For Fylkesnes handler det om å sikre grunnleggende menneskerettigheter. Det haster å få på plass reguleringer.

− Det er to hoveddrivkrefter, de kommersielle som er opptatt av å generere trafikk og engasjement for å selge produkter, og de kontrollerende kreftene som du ser blant annet i Kina, som har som formål å manipulere, sier Fylkesnes.

Reguleringene må dekke krav om åpenhet, kontroll med data, eierskap til data, hvor vi tillater eller ikke tillater bruk, og overvåking, manipulering og grunnleggende rettigheter, mener SV.

− Vi må få regulering og en styring av kunstig intelligens som er mer i tråd med våre samfunnsmål, med demokrati, personvern og privatliv, og grunnleggende menneskerettigheter, sier Fylkesnes.

Ikke et forbud mot Teams

Selv om kunstig intelligens har vært med oss i flere tiår, har debatten om demokratisk kontroll virkelig fått fart med utviklingen innen store språkmodeller som ChatGPT.

Samtidig brukes nettopp denne teknologien i stadig flere hverdagslige produkter, som ChatGPT-støtte til Teams, og i andre Microsoft-produkter som Excel og PowerPoint.

− Betyr forslaget deres at offentlig sektor ikke skal kunne oppgradere til neste versjon av Teams?

− Kunstig intelligens er jo absolutt overalt nå, men man må jo lage en grense her, mellom verktøy man ikke kommer utenom å bruke og de større AI-prosjektene man vurderer å kjøpe og ta i bruk, svarer Fylkesnes.

Det er stor forskjell mellom AI-støtte i søkemotorer og møtereferater, og utstrakt bruk av kunstig intelligens til behandling av asylsaker, og avdekking av lovbrudd, mener han.

− Kan ikke hoppe bukk over menneskerettigheter

− Hva med AI som bildegjenkjenning brukt i å diagnostisere kreft, skal man ikke kunne innføre det på norske sykehus? Det kan jo spare menneskeliv.

− Det er riktig det, men vi må gjøre det riktig, svarer Fylkesnes og fortsetter:

− Det er det samme som med avansert bioredigering, crispr, vi har sagt at vi skal ha veldig klare rammer, for det kan være veldig farlig teknologi hvis den brukes feil.

Da kan kritikerne gjerne si at vi taper i kappløpet og mister markedsandeler, mener han, det er konsekvensen av vårt verdisett.

− Det er ikke sånn at fordi andre hopper bukk over grunnleggende demokratiske prinsipper og menneskerettigheter skal vi også kunne gjøre det samme, sier Fylkesnes.

Ingen ludditter

– Hva vil dere si til de som kaller dere ludditter?

− Vi advarer mot de som vil ødelegge og de som ikke ser noen problemer. Jeg mener dette er en mellomposisjon, svarer Fylkesnes.

At utvikling og næringsinteresser settes på pause, er ikke ukjent i historisk sammenheng, understreker han videre. Tidlig på 1900-tallet ble det haste-etablert politikk for å hindre at vannkraft ble solgt ut av landet, og Stortinget trykket på pauseknappen for å sikre regulering og skattlegging av oljenæringa.

− Det er vi som et fellesskap som skal kontrollere den digitale utviklingen, slik at den server våre behov, ikke noen få med store økonomiske interesser i feltet eller den kunstige intelligensen selv, mener SV.