Norsk Microsoft-leder advarer: – Vi kan ikke vente på EUs AI Act

– Vi må ha noen kjøreregler for at kunstig intelligens (KI) skal være trygt for folk å benytte, og for å sjalte ut useriøse aktører. Det er jo det mange er bekymret for, sier Kristine Beitland til Digi.

Hun er nordisk Government Affairs-direktør i Microsoft Norge og deltok nylig i en paneldebatt ved Diversify i Oslo, en konferanse med fokus på mangfold og inkludering i næringslivet.

Under samtalen etterlyste Beitland regulering av kunstig intelligens og mener bedre lovverk blant annet kunne motvirke fordomsfulle resultater fra KI.

– Generativ KI vil definere vår generasjon og hvordan vi former fremtiden. For å sikre inkludering og mangfold må hele økosystemet rundt kunstig intelligens være gjennomtenkt. Dette må tas hensyn til i alt fra datagrunnlaget, designet og hvordan man utvikler og bruker KI-systemene, sier hun til Digi etter samtalen.

– Dette sammen med krav til åpenhet og forklarbarhet, etiske prinsipper, retningslinjer og standarder for KI-systemer må vært tydelig beskrevet i retningslinjer og reguleringer.

For å unngå «bias»

Det finnes mange eksempler på at algoritmer har generert fordomsfulle resultater, og Digi har skrevet om hvordan ulike tech-selskap jobber for å rekruttere et mangfold blant utviklere for å sikre at fremtidens tech-løsninger skal passe for alle. Den siste tiden har imidlertid språkmodeller generert mye kode selv, og eksperter spår at man ikke lenger trenger være utvikler for å bruke kunstig ingelligens. Men hvordan kan man følge opp potensielle diskriminerende prediksjoner fra KI, om man lar algoritmer stå for kodeutviklingen, spurte vi Microsoft-lederen.

– Microsoft og Github har lansert Copilot X, en slags ChatGPT for utviklere, for å gjøre utviklere mer effektive. Men man må ha en måte å evaluere for å oppdage og rette opp eventuelle skjevheter eller andre feil i systemet. Og så må man ha kontinuerlig evalueringer, sier hun.

– Du kan bruke maskinlæring til å sjekke om det er feil i systemene, men mennesker må alltid sitte i førersetet og ha styringen.

Må ha åpenhet

Beitland mener imidlertid at det er viktig å få på plass et offentlig regelverk for å sikre at treningsdata ikke har feilkilder, eller såkalte «bias», som kan gi ufordelaktige utslag i det KI genererer. Hun viser til europeiske byer som Amsterdam og Helsinki der de har opprettet offentlige KI-registre for å dokumentere hvordan de bruker algoritmer til å levere tjenester til innbyggerne.

– Toget går nå, og vi er alle enige om at kunstig intelligens bør reguleres. I Europa kommer AI Act tidligst i midten av 2026,og for Norge, som har EØS-tilpasningsregelverk, får vi det kanskje ikke før 2027, sier hun.

Med tanke på den rivende utviklingen bare de siste tolv månedene mener Beitland at vi ikke kan vente på dette.

– Vi må ha åpenheten rundt hvordan teknologien er utviklet og hvordan KI er trent. Både for å skape tillit og for at selskaper skal vite at de er ansvarlig for å sette sikkerhet i høysete og sikre at produktene er trygge før de slipper på markedet.

Haster mest

Det holder ikke at tech-selskapene følger interne etiske prinsipper, retningslinjer og KI-standarder. Hele KI-utviklingen bør reguleres av myndighetene, mener Beitland.

– Regulering må være basert på KI-teknologiarkitekturen. Noen tror at KI totalt mangler regulering, men det stemmer ikke. For KI-applikasjoner der folks sikkerhet og personvern kan bli berørt, har vi allerede regler for eksempel i personopplysningsloven. Det finnes også regulering knyttet til de forskjellige sektorene eller industriene. Men vi må ha på plass regulering også for KI-arkitekturen under i de såkalte modellene og infrastrukturen, sier hun.

Flere, og blant dem KI-forsker Inga Strümke, har tatt til orde for en regulering av kunstig intelligens. Beitland mener et umiddelbart grep er å få på plass «sikkerhetbremser» for KI-systemer som styrer samfunnskritisk infrastruktur.

– Det er veldig sjelden vi sier kom og reguler oss. Men vi mener KI-systemer som styrer infrastruktur som er kritisk for samfunnet og befolkningen, haster mest å regulere. Dette er ikke regulert i dag.

Beitland viser til at USA har innført midlertidige retningslinjer for KI, som Microsoft har stilt seg bak. Canada innførte også nylig frivillige retningslinjer for generativ KI inntil ny KI- og datalov er på plass.

– I Norge har vi en tendens til bare å sitte på sidelinjen og vente på EU, men norsk konkurransekraft og verdiskaping er ikke tjent med at folk blir usikre på om de tør ta i bruk KI. Dette er som et hurtigtog som raser forbi mens vi står der med trehjulssykkelen.

Erstatter ikke menneskelig erfaring

Flere i panelsamtalen under Diversify mente at mangfold blant ansatte i tek-firmaene er viktig for å sikre gode KI-løsninger.

Umair Shamsi, visepresident for People Excellence ved Telenor Nordics, sier til Digi at det er et stort behov for mangfold blant utviklere for å fange opp potensielle fordomsfulle datagrunnlag. Han tror ikke KI vil kunne gjøre dette selv.

– Det er helt fantastisk hva KI kan gjøre for oss. Men teknologien som kommer inn, er ingen erstatning for menneskelig erfaring, spesielt ikke i et mangfolds- og inkluderingsperspektiv, sier han.

– Du kan ikke føle hva inkludering egentlig handler om før eller med mindre du blir ekskludert. For å sikre inkludering av alle, må man ha et mangfold av ansatte i rollene som utviklere.

Kristine Beitland i Microsoft mener også at det er viktig med et mangfold av ansatte for å sikre fremtidens løsninger.

– Det er et faktum at KI-feltet er dominert av hvite menn. Vi prøver bevisst å rekruttere nye talenter som representerer befolkningen, men vi er overhodet ikke i mål. Derfor må vi ha et bredt virkemiddelapparat, for å sikre god representativitet i løsningene, og jeg mener regulering bør inn i det apparatet.

Konklusjon i november

Regjeringen satte i august ned en hurtigarbeidende arbeidsgruppe som skal vurdere behovet for regulering av kunstig intelligens. Gruppen er ledet av Justis- og beredskapsdepartementet og skal etter planen komme med en konklusjon i november.

Digi har rettet flere henvendelser til Justis- og beredskapsdepartementet om problemstillingene i denne saken, men har dessverre ikke mottatt svar.