Mangler kompetanse på kunstig intelligens i det offentlige. Trenger folk til å forhindre tre typer risiko

– Vi trenger flere folk som er kompetente på kunstig intelligens, og som i tillegg forstår offentlig sektor, sier Alex Moltzau rådgiver ved Nora.ai (Norwegian Artificial Intelligence Research Consortium), et samarbeid mellom åtte universiteter, tre høyskoler og fem forskningsinstitusjoner innen kunstig intelligens (KI).

Digi.no omtalte nylig at det er mangel på IT-folk i statlige etater og direktorater, og Moltzau mener det er ekstra viktig å bygge opp kompetanse på AI. Behovet ble ytterligere aktualisert ved at EU nylig kom et steg videre med å lansere The Artificial Intelligence Act (AIA), for å regulere bruken av kunstig intelligens.

– Vi trenger teknisk utvikling, men også løsninger som tar hensyn til de ulike kravene vi har i offentlig sektor, mener Moltzau.

Samarbeid

Sammen med Digitaliseringsdirektoratet har Nora.ai kartlagt hvor mange offentlige prosjekter som allerede tar i bruk kunstig intelligens. Arbeidet har tydeliggjort behovet for rekruttering av AI-kompetanse i det offentlige.

– Det blir viktig å forstå hvordan et komplekst og vanskelig regelverk kan brukes sammen med kompleks teknologi. Vi trenger flere som kjenner dybden på begge fagområder, mener Jens Andresen Osberg, seniorrådgiver, jurist og teknolog ved nasjonalt ressurssenter for deling og bruk av data i Digitaliseringsdirektoratet.

Blant flere risikoer ved AI i offentlig sektor, ser Osberg særlig tre hvor det kan være behov for spisskompetanse.

1. Forklarbarhet. En risiko ved bruk av AI er at den ikke kan forklare hvorfor den kom frem til et resultat. I offentlig sektor er det viktig å komme med begrunnelser, og vi trenger folk som kan jobbe med å gjøre AI forklarbar.
2. Likebehandling. AI har tidligere stått for diskriminering av ulike grupper, slik Digi nylig omtalte. Det er behov for folk i det offentlige med AI-kompetanse som kan sikre likebehandling, og at ikke historiske data slår uheldig ut for visse grupper.
3. Lik målsetting – «AI alignment». Man må sikre at målene for et AI-system er i tråd med de målene samfunnet har, slik at ikke AI-systemene gjør det de vil, eller ikke er optimalisert for noe samfunnet ikke ønsker. Man må også passe på at AI-systemene samsvarer med verdier vi har i Norge, ikke bare verdiene i selskapene som har laget dem.

Vil inspirere studenter

Både rådgiverne i Digitaliseringsdirektoratet og i Nora.ai tror det kommende EU-regelverket, The AI Act, vil sette nye og gode kjøreregler. Men de mener vi trenger kompetanse for å anvende regelverket i praksis.

– I tillegg til AI-forordningen har vi flere regelverk i dag som regulerer kunstig intelligens, som krav til begrunnelse og regler for å hindre diskriminering. Vi ser imidlertid at det er utfordrende å i praksis ivareta kravene på en god måte. Det er behov for konkrete råd, bli bevisst risikoene, og så få inn rett kompetanse. Det er utfordrende når utviklingen går så fort, mener Osberg.

De mener alle at det er viktig å utdanne norske talenter til den raske internasjonale AI-utviklingen.

– Vi har inntrykk at dette ikke bare gjelder i Norge, men for hele Europa, sier rådgiver i Digdir, Steven Christensen.

Moltzau har selv tatt en internasjonal mastergrad i «Artificial Intelligence for Public Services», og skulle ønske at det fantes lignende studier i Norge. Nora.ai jobber imidlertid opp mot universiteter for å inspirere masterstudenter til å se nærmere på problemstillinger knyttet til kunstig intelligens i det offentlige.

– Om talentene ikke kjenner til kjørereglene innenfor offentlig sektor, kan talenter som ønsker å jobbe med AI bli sittende og stange i veggen når de skal lage ting med alle de hensyn man må ta i det offentlige, spår Moltzau.

Nora.ai-rådgiveren mener likevel at Norge har kommet langt med AI-bruk i det offentlige, og trekker frem Nav, Posten og Ruter som foregangsorganisasjoner.

– Noen av de offentlige virksomhetene har begynt å tiltrekke seg kompetente folk. Men vi må skape enkle og gode kjøreregler for AI i Norge, slik at vi får beholdt gode folk som kan lage gode tjenester.Vi trenger også mer samarbeid om de satsingene vi allerede har, for å opparbeide oss kompetanse, mener Moltzau.

Et felt alle må sette seg inn i

Gunn Karin Gjul (Ap), statssekretær ved Kommunal- og distriktsdepartementet, skriver i en e-post til Digi at ansvaret for rekruttering av nødvendig kompetanse ligger hos de ulike statlige virksomhetene. Kommunal- og distriktsdepartementet har imidlertid ansvaret for den sektorovergripende arbeidsgiverpolitikken i statlig tariffområde, og de har iverksatt flere tiltak for å støtte de statlige virksomhetens arbeid med rekruttering.

– Kompetanse på AI vil ikke bare omfatte IT-personell. AI er et felt vi alle må sette oss inn i, da det fremover vil påvirke hvordan vi arbeider og samarbeider. Vi har satt dette på dagsordenen, og vi er derfor i gang med å planlegge et seminar/webinar om temaet, særlig rettet mot HR-funksjonen i de ulike statlige virksomhetene. AI og noen mulige konsekvensene av dette er også et tema som blir belyst i arbeidet med revidert arbeidsgiverstrategi og nytt grunnlag for ledelse i staten, skriver Gjul.

Hun forteller at departementet har arrangert frokostseminar og webinar om rekruttering, og de har også hatt rekruttering av IT-personell som et eget tema på arbeidsgiverkonferansen i Staten.

– Vi er i disse dager i ferd med å igangsette et prosjekt sammen med hovedsammenslutningene i staten (Akademikerne, LO, Unio og YS), knyttet til å rekruttere, beholde og utvikle nødvendig kompetanse. Det er naturlig at rekruttering av ettertraktet kompetanse på AI blir et tema i dette prosjektet.