Slik jobber Nav for å hindre diskriminering med kunstig intelligens

Nå i oktober kunne Nav fortelle at den aller første helt automatiske tildelingen av sykepenger hadde funnet sted.

Flere prosesser er automatisert, og barnetrygd, alderspensjon og foreldrepenger har blitt utbetalt automatisk i mange år.

Nav jobber også med å lage kunstig intelligens som er god nok til å ta flere beslutninger.

I Navs dataseksjon, som har ansvar for kunstig intelligens i Nav, er de veldig klar over at det er en risiko knyttet til å ha et utvalg som jobber med kunstig intelligens som ikke representerer befolkningen som helhet godt nok.

Lyngstad understreker at Nav er opptatt av ansvarlig og etisk kunstig intelligens, men at det ikke finnes noe fasitsvar på hvordan det skal oppnås.

– Det er ikke sånn at mangfoldet automatisk er sikret hvis begge kjønn er med, men hvis du bare har menn eller bare kvinner i debatten, er det sannsynligvis noe du mister, sier Lyngstad.

IT-student og prosjektkoordinator for jenteprosjektet Ada, Alis Wiken Wilson,

bekymrer seg for at det bare er ti prosent, eller 21 av 204 studenter som har valgt kunstig

intelligens som retning ved NTNU.

– Løsningene vi har laget i dag er basert på store mengder data. Vi har eksempler på at de

diskriminerer blant annet kvinner og ulike etnisiteter fordi det er hvite menn som har utviklet

disse løsningene, sier Wilson.

Historiske data kan inneholde bias (forutinntatthet)

Et mulig bias handler også om at kunstig intelligens bruker historiske data for å lære. Hvis Nav tidligere har hatt gitt enkelte brukergrupper bedre oppfølging enn andre, da kan kunstig intelligens fortsette med en slik skjevfordeling.

– Det aller viktigste er at vi erkjenner at det er en stor risiko for at man diskriminerer eller forskjellsbehandler med kunstig intelligens, sier Lyngstad.

Nav har allerede tatt i bruk systemer som regnes som kunstig intelligens, blant annet et system som gir beslutningsstøtte til Nav-veiledere. Faktorer som alder og arbeidserfaring kan være med på å forutsi sannsynligheten for at vedkommende vil klare seg selv eller trenger oppfølging fra Nav.

Hvis menn sliter mest, skal de få mest penger?

Men det innebærer også noen etiske dilemmaer.

– Hvis det ene kjønnet har større problemer enn det andre med å komme ut i jobb, er spørsmålet om det kjønnet skal få mer ressurser, eller om begge grupper skal få like mye, sier Lyngstad.

For eksempel kan det hende at det er rettferdig at unge menn får en større andel fordi det er lavere sannsynlighet for at de kommer ut i arbeid.

Hvis kvinner og menn skal få like mye, da kan det bli en større andel menn som ikke får hjelp, selv om de har større behov enn noen av kvinnene som får hjelp.

Da kan noen mene at det er riktig og naturlig at det er sånn, mens andre er uenig.

– Vi klarer ikke å treffe på alt samtidig. Vi kan justere modellen og si at den skal bli belønnet for å treffe på den ene eller den andre gruppen, sier Lyngstad.

Mennesker kan også forskjellsbehandle

Hun mener Nav må ta utgangspunkt i at det alltid kan skje en viss form for forskjellsbehandling når det er mennesker involvert. Men med én gang det puttes inn i et system, skaper det andre problemstillinger.

– Er det noen grupper du ikke vil skal komme dårligere ut, som minoriteter og enkelte aldersgrupper, så er det et spørsmål om dette er rettferdig og riktig, sier Lyngstad.

Da er det spørsmålet om ulikheten er noe politikerne har vedtatt, eller om det kanskje er en problemstilling som burde løftes opp fra kunstig intelligens-miljøet i Nav.

– Vi har løftet problemstillinger opp i virksomheten, noen ganger opp til departementet vårt, og sagt at dette er dilemmaer og diskusjoner som vi kommer til å komme opp i mer. Vi må løfte det ut av tech-sfæren og si at dette er dilemmaer som vi ikke kan overlate ene og alene til teknologene.

Etiske dilemmaer

Hun mener at ikke bare kvinner og menn, men andre yrkesgrupper kan ha noe å bidra med.

– Vi må forsøke å oversette fra et eller annet etisk dilemma til lov, sier Lyngstad.

Foreløpig skal det være et menneske i loopen. Et mulig mål på sikt kan ifølge Lyngstad være at de sakene som er uproblematiske å avgjøre, for eksempel foreldrepenger, kan behandles av kunstig intelligens. Da kan ressursene flyttes over til de som trenger oppfølging av mennesker og har behov for en dialog.

– Et punkt handler om at vi skal kunne forklare beslutningene våre. Vi leverer ikke komplette forklaringer i dag, men vi må forutsette at vi skal klare å gi gode nok forklaringer når systemene kommer med anbefalinger eller beslutninger.

Datasett med stereotypier

Også FN bekymrer seg for at bare 12 prosent kvinner jobber med kunstig intelligens, og viser til forskning på at kjønnsbias er bygget inn i roboter som Siri og Alexa.

– Det kalles biasalgoritmer, basert på datasett som inneholder stereotypier basert på kjønn

eller etnisitet, sier Alis Wiken Wilson, prosjektkoordinator for jenteprosjektet Ada.

– For at det ikke skal skje, trenger vi flere kvinner som blir interessert og ikke tenker at

kunstig intelligens er et yrke for menn.

Hun har tro på å gi informasjon om studier i kunstig intelligens, og at det hjelper at

den informasjonen kommer fra kvinner.

– Jeg tror det hjelper å få informasjon fra andre kvinner som har valgt det, synes det er gøy

og har en lidenskap for det.

Da Navs dataseksjon lyste ut et internship, var det langt flere mannlige søkere enn kvinnelige. Men i sluttfasen var det 50-50, uten at det hadde skjedd noen kvotering.

– Det er ofte flere menn som søker, og det er flere menn som studerer IT. Men vi plukker også søkere fra matematikk, fysikk, industriell økonomi og litt andre retninger, sier Cathrine Pihl Lyngstad i Nav.