− Vi må ikke få helt panikk bare fordi det er en annen type logikk

− Vi skal stille strenge krav til maskiner, men kanskje ikke strengere enn vi stiller til mennesker, sier Øyvind Akerhaugen, avdelingsleder for Innovasjon i Arkivverket.

Han og kollegene har flere års erfaring med bruk av maskinlæring i arkivene. Teknologien kan gjøre det lettere å finne frem i dokumentsamlinger, forbedre måten vi tar vare på beslutninger for fremtiden, og lette arbeidet med innsyn og sladding.

Nå går debatten om hvordan vi bør regulere bruk av kunstig intelligens for å sikre at vi kontrollerer utviklingen selv.

− Vi må ikke få helt panikk bare fordi det er en annen type logikk, sier Akerhaugen.

Heller ikke mennesket er ufeilbarlig. Hodet til saksbehandleren kan også fungere som en svart boks, og hun kan være unøyaktig, mulig å påvirke og farget av personlige meninger.

Og ny teknologi kommer med store muligheter.

Nyttig i arkivsammenheng

− Vi har utrolig mye fritt tilgjengelig informasjon, som samtidig er helt utilgjengelig, sier Akerhaugen.

Arkivverkets skatter er på papir, og mye er skrevet for hånd. Å gjøre dokumentene tilgjengelig for folk flest, innebærer at dokumentene må være både digitale og søkbare. Der kan maskinlæring og bildegjenkjenning være nyttig.

Derfor har Arkivverket fått på plass en modell i det digitale arkivet som automatisk identifiserer metadata og nøkkelord, som personer og stedsnavn, og setter dem i sammenheng i en ny informasjonsmodell.

Det gjør det mulig for brukeren å følge nøkkelordene videre inn i det digitale arkivet.

Arkivverket har også spart mye tid med en maskinlæringsmodell som automatisk kjenner igjen og sladder personnummer i dokumenter, slik at de kan deles mye raskere uten at en saksbehandler må gå manuelt gjennom dokumentet.

− Der lanserte vi med under 90 prosent nøyaktighet, nå er vi på 97, sier Akerhaugen.

Hvor nøyaktige menneskene som hadde jobben før var, vet vi ikke.

− Vi er mye mer kritiske til feil gjort av maskiner enn av mennesker, sier Akerhaugen.

− Kan være mer objektiv

Det betyr ikke at han er blind for fallgruvene ved bruk av blant annet generative språkmodeller.

− For det første, disse store språkmodellene har ikke noe forhold til sannhet. De er utrolig gode på å konstruere språk, og har et forhold til om ting hører sammen men ikke hvordan de hører sammen, sier Akerhaugen.

Men det kan fort bli rot, og modellene som er bygget for å finne neste sannsynlige setning eller ord, er også i stand til å «hallusinere» eller finne opp ting som ikke har skjedd.

Selv om han tviler på at generativ KI blir utbredt i offentlig saksbehandling, kan det bli risikabelt om saksbehandlerne begynner å bruke ChatGPT til research.

Men så kan heller ikke Arkivverket på noen som helst måte garantere at alt som står i arkivet er sant, bare at det som er levert dem er uendret siden den gang og kan spores tilbake til kilden.

Saksbehandlere kan også gjøre feil. Det påvirker innholdet i arkivene.

Menneskelig black box

− Hva foregår egentlig i saksbehandlerens hode, spør Akerhaugen retorisk.

Det er vanskelig å si, saksbehandleren har sine politiske meninger, kan bli påvirket av andre, eller rett og slett slurve. Norge har også hatt skandaler der saksbehandlere har brukt eget skjønn innenfor et regelverk de ikke har full kontroll på.

− Å la enkeltsaksbehandlere operere innafor sin egen menneskelige black box, det kan være like ugjennomtrengelig og uetterrettelig som en maskin. En algoritme kan være mye mer objektiv, sier Akerhaugen.

Det er heller ikke helt opplagt at bruk av kunstig intelligens gjør saksbehandlingen mindre sporbar, mener han.

Må beholde tilliten

Ny teknologi kan ta ned risikoen for at dokumenter blir tuklet med, mener Akerhaugen.

− Vi ser også at dokumenter i gamle arkiver kan være manipulert, det er brukt korrekturlakk og ting er strøket over, sier han.

I digitale løsninger kan vi sikre informasjonen mot endringer, avhengig av hvordan de er bygget opp.

Arkivverket, og ikke minst de offentlige virksomhetene selv, har et ansvar for og stor egeninteresse i å sikre god forvaltning av dokumentasjonen i offentlig sektor. De må kunne vise hvilke beslutninger de tok, og på hvilket grunnlag. Arkivverket fører tilsyn med arbeidet.

− Vi må ha god etterrettelighet og beholde tilliten, også når ting blir digitalt og mer ugjennomsiktig, sier Akerhaugen.

Tradisjonelle saksbehandlingsløsninger med mer eller mindre lesbar kildekode og tydelig definerte beslutningstrær er ikke så vanskelige å forholde seg til for ettertiden. Men med stadig mer automatisering, ved hjelp av teknologi som ikke lar seg dokumentere på detaljnivå, kan det blir vanskeligere å ivareta rettigheter og tillit.

Hvordan sikre sporbarhet?

− Det er i praksis ikke mulig å ta vare på alle treningsdataene eller modellene til en KI, sier Akerhaugen.

Likevel må utfallet maskinen kommer frem til kunne knyttes til faktiske forhold. De kan ikke operere som svarte bokser. Derfor må løsninger og modeller vi bruker i saksbehandling kunne gi oss, ikke bare et resultat, men en forklaring om hvilke parametere som er vektlagt og hvorfor, mener han.

− Sammen med informasjon om hvilken modell og versjon av modellen vi har brukt og omfanget og typen treningsdata, kan det gi tilstrekkelig innsikt, sier Akerhaugen.

Da trenger vi en ny informasjonsmodell med metadata- om kunstig intelligens, som er god nok til at vi kan forklare hva som faktisk har skjedd.

− Vi må finne ut hva som er nødvendig grad av kontroll, kombinert med tilstrekkelig grad av handlingsrom. Dette er noe som er fornuftig å løse på nasjonalt nivå, det er ikke smart at hver virksomhet skal løse det selv, sier Akerhaugen.

Derfor trenger vi en god politisk diskusjon.

Hva prioriterer vi?

Tidligere i år foreslå SV å sette anskaffelser av kommersielt utviklet KI til offentlig sektor på pause.

Det vil være uheldig, mener Akerhaugen.

− Da sakker vi akterut, det hjelper ingen. Resten av verden går videre, sier han.

Akerhaugen mener likevel det vil være nyttig med politiske føringer om hvordan vi ivaretar norske verdier, som tillit, i utviklingen, mener Akerhaugen.

− Prioriterer vi å opprettholde tilliten for enhver pris eller prioriterer vi effektivisering av offentlig sektor, for eksempel, spør han.

Svaret er trolig et sted imellom, men vil gi noen rammer for hvordan offentlig sektor diskuterer problemstillingen og hvilke prinsipper de skal følge senere.