Høy tillit er en styrke for bruk av kunstig intelligens i forvaltningen

Det er viktig at feil som blir gjort ikke utløser tiltak som unødvendig begrenser bruk av kunstig intelligens, skriver Erlend Vestre i Devoteam.

Erlend Vestre, konsulent i Devoteam.
Erlend Vestre, konsulent i Devoteam. (Foto: Devoteam)

Det er viktig at feil som blir gjort ikke utløser tiltak som unødvendig begrenser bruk av kunstig intelligens, skriver Erlend Vestre i Devoteam.

  • Debatt

«Denne gangen er det alvor» skrev finansminister Jan Tore Sanner i en kronikk i DN tidligere i år. Økende utgifter og reduserte inntekter i statskassen reduserer handlingsrommet til en brøkdel av det vi har vært vant til. Regjeringen, perspektivmeldinger og produktivitetskommisjonen har pekt på at det viktigste virkemiddelet for en mer effektiv offentlig sektor vil være digitalisering, og da pekes det spesielt på bruk av kunstig intelligens. Tilliten til offentlig sektor vil være en viktig ressurs for å lykkes i dette arbeidet, en ressurs som lett kan ødelegges hvis den ikke forvaltes på en god måte.  

Det norske samfunnet har et høyt tillitsnivå, også mellom offentlig sektor, innbyggerne og næringslivet. Det høye tillitsnivået ses på som en viktig faktor for en effektiv offentlig sektor.  Forvaltningens beslutninger får større aksept hos innbyggerne og næringslivet. Det reduserer behovet for kontroll. Det høye tillitsnivået gjør det også enklere å få til et effektivt samarbeid internt i offentlig sektor og mellom offentlig sektor og privat næringsliv. Videre innebærer høy tillit at færre unndrar skatter og avgifter. Det sikrer inntekter som skal finansiere ytelser til innbyggerne og næringslivet.

Deler av offentlig sektor har allerede kommet godt i gang med digitalisering. Få skandaler gjør at innbyggerne og næringslivet har tillit til digitale offentlige tjenester. 500 000 nordmenn, som årlig unnlater å godkjenne den ferdig utfylte skattemeldingen fra Skatteetaten, er et godt eksempel på det.

Tillit tar lang tid å bygge opp, men kort tid å rive ned. Offentlig sektor i Norge assosieres med en forvaltningskultur preget av verdier som demokrati, rettssikkerhet, faglig integritet og effektivitet. Det er viktig at innføringen og bruken av kunstig intelligens ikke oppleves å bryte med disse verdiene og dermed ødelegge tilliten til offentlig sektor.

Det finnes mange definisjoner av kunstig intelligens. Litt enkelt kan vi si at systemer som kan løse oppgaver uten å få instruksjoner fra et menneske på hvordan oppgavene skal løses, har kunstig intelligens. Slik systemer kan grovt deles i to: systemer basert på regelbaserte modeller, som løser oppgaver basert på forhåndsdefinerte regler, og systemer basert på datadrevne modeller som lærer i stedet for å bli forhåndsprogrammert.

Bruk av kunstig intelligens kan svekke eller ødelegge tilliten til offentlig sektor på flere måter. Datadrevne modeller er trent på store mengder data. Hvis dataene inneholder feil eller har utvalgsskjevhet, vil det kunne resultere i gale beslutninger eller ubalanserte resultater for de det gjelder. Modellene kan også ha svakheter, som gir uønskede resultater, hvis variablene som modellen er basert på ikke er tilstrekkelig representative og pålitelige. Derfor er det viktig med gjennomsiktighet når det gjelder modellene og hvilke data som algoritmene er trent på. Det må også være mulig å dokumentere og forstå hvordan beslutninger er tatt. Hvis offentlig sektor oppleves å ta beslutninger som er uforståelige, og hvis grunnlaget for beslutningene ikke er transparente, vil det svekke tilliten.

Effekten av en digitalisert forvaltning øker ved deling av data mellom forvaltningsenheter. Det kan være fristende å gjenbruke data som er hentet inn til et annet formål hvis effekten av gjenbruk er stor. Det er behov for å jobbe med eksisterende regelverk for å fjerne unødvendige hindringer for deling av data i forvaltningen. Slike endringer, og den faktiske deling av data, må ikke skape bekymring for at «Storebror» ser deg. Det vil også bidra til å svekke tilliten til offentlig sektor.

Det krever kapasitet og kompetanse å ivareta sine interesser og rettigheter overfor offentlig sektor. Når offentlig sektor utøver myndighet ved bruk av kunstig intelligens, vil berørte parter kunne ha behov for bistand fra kvalifiserte organer. Det vil i tillegg være viktig med tilsynsordninger som kontroller at bruk av kunstig intelligens i offentlig sektor er iht regelverket. Tilgang til bistand og tilsynsordninger vil bidra til en praksis som skaper tillit til bruken av kunstig intelligens i forvaltningen.

Det vil bli gjort feil når kunstig intelligens tas i bruk. Det er viktig å ha respekt for konsekvensen av feil som blir gjort. Samtidig er det viktig at feil som blir gjort ikke utløser tiltak som unødvendig begrenser bruk av kunstig intelligens. Tiltakene må ikke iverksettes kun for å unngå ytterligere kritikk. En slik håndtering av feilsituasjoner utløse en mer alvorlig kritikk, fordi mangelfull utnyttelse av teknologiens muligheter gjør at behovet til innbyggere og næringsliv etter hvert ikke blir dekket. En offentlig sektor som ikke evner å dekke behovet til brukerne, eller som ikke oppleves som relevant, vil ha mye mindre tillit enn en forvaltning som strekker seg for å levere stadig bedre tjenester og som er åpen om feil som er gjort.

Les også

Kommentarer (1)

Kommentarer (1)
Til toppen