Bekymret for diskriminerende KI, men mener loven er god nok

Digitaliseringsminister Karianne Tung har som mål at alle offentlige virksomheter skal ta i bruk KI i løpet av 2030. Vi har rett og slett ikke råd til å la være, mener hun. Da er det nettopp generativ KI, og spesielt store språkmodeller, politikerne forventer skal gi gevinster.

De er stort sett utviklet i USA, og selskapene bak fikk nylig et ganske sterkt insitament til å fjerne hensyn til mangfold og inkludering i modellene. Trump vil nemlig ha slutt på «Woke AI», og er villig til å bruke den store innkjøpsmakten amerikanske myndigheter har til å nå målet.

Dermed må offentlige virksomheter, som Nav, være ekstra oppmerksomme på hvordan amerikanske språkmodeller utvikler seg fremover. Digitaliseringsministeren mener regelverket er godt nok, men investerer likevel i norske og samiske modeller for å redusere avhengigheten av globale aktører.

− Må være ekstra oppmerksomme

− Dersom presidentordren påvirker hvordan kommersielt utbredte modeller som Chat GPT, Gemini og Claude er trent, vil det påvirke nordmenn som bruker språkmodellbaserte chat- og bot-tjenester. Det vil også kunne påvirke virksomheter som bruker modellene i sine tjenester, skriver Cathrine Pihl Lyngstad, avdelingsdirektør for data og informasjonsforvaltning i Nav, til Digi.

Allerede for fem år siden snakket fagfolk i Nav om hvordan de jobbet for å hindre diskriminering når de tok i bruk KI. Den gang handlet KI-debattene på Arendalsuka mer om bias og skjevheter i egne datasett, og risikoen for at historisk manuell forskjellsbehandling skulle bli forsterket i modellene.

Men med innføringen av store språkmodeller (LLM) i deler av kjeden, er det ikke lenger nok å sikre at bias og skjevheter i egne datasett ikke påvirker beslutningene.

Utviklere som tar i bruk LLM-er må forholde seg til mulige bias i enorme datasett, som de ikke har innsyn i eller oversikt over.

− Der hvor Nav bruker språkmodeller fra amerikanske leverandører, må vi være ekstra oppmerksomme på hvordan «oppførselen» til modellene utvikler seg. Gjennom testing og overvåkning må vi sikre at de språkmodellbaserte tjenestene ikke bryter med norsk lov, sier Lyngstad.

Siden språkmodellene er trent på alt fra redaktørstyrte medier og offentlige informasjonssider til ulike kommentarfelt, kan de aldri være ideologisk nøytrale, selv om man justerer instruksjonene, mener hun.

− Når datagrunnlaget ikke er ideologisk nøytralt, vil heller ikke språkmodellen være det, selv om man tilpasser hvordan modellen skal respondere, sier Lyngstad.

− Trenger politikere som engasjerer seg

− Vi er underlagt flere lover som sikrer at utviklingen av teknologi ivaretar verdiene og rettsprinsippene som skal prege norsk forvaltning. For eksempel ivaretar forvaltningsloven prinsippet om likebehandling, mens likestillings- og diskrimineringsloven pålegger Nav å jobbe aktivt for likestilling og mot diskriminering, sier Lyngstad.

Det er en fordel.

− Vi trenger norske politikere som engasjerer seg i hvordan teknologien utvikles og brukes. Lovene Nav reguleres av er demokratisk forankret, vedtatt av Stortinget. For oss er det en fordel at det gir forutsigbarhet i hvilke lover og rammer vi må forholde oss til, sier Lyngstad.

Bekymret

Karianne Tung er uenig i politikken Trump fører gjennom presidentordren, forteller hun i en e-post til Digi.

− Jeg er bekymret for at KI-modeller kan diskriminere og bidra til å forsterke stereotyper og fordommer, sier hun.

Ministeren mener det er viktig at alle som utvikler og bruker slike modeller, er oppmerksomme på skjevheter som kan oppstå.

− Tromsø-saken viste oss hvor viktig det er å sjekke innholdet som er generert av KI-modeller før det brukes, sier Tung, og peker på at verktøy som KI-veilederen, som kom før sommeren, skal hjelpe virksomheter å unngå den typen tabber.

Hun mener likevel at KI-loven, som er på høring, sammen med annet regelverk, som personopplysningsloven og likestillings- og diskrimineringsloven, gir et godt nok grunnlag for å innføre KI. Med ny KI-lov kommer også en ny struktur for håndheving, med KI-Norge i Digitaliseringsdirektoratet og koordinerende tilsyn i Nkom.

− Regulering må også balanseres mot behovet for innovasjon og nye løsninger, sier Tung.

Samtidig vil hun ha KI-grunnmodeller som gjenspeiler våre språk, kultur og samfunnsverdier.

− Vi har derfor investert 40 millioner kroner i trening av norske og samiske språkmodeller. Dette vil minske vår avhengighet til globale selskapers KI-plattformer, sier Tung.