Politiet snuser på bildegjenkjenning: – Noen streker kan vi ikke gå over

Majorstua, Oslo: – Vi har et ekstremt potensial i å bruke kunstig intelligens for å effektivisere en del arbeidsprosesser, men til hvilken risiko? Vi må være veldig bevisste, og ha noen tydelige grenser, sier John-Magnus Løkenflaen, seksjonssjef for straffesaksseksjonen i Politidirektoratet til Digi.

Digi treffer ham hos politiets IT-enhet (PIT) i Oslo, sammen med Claes Lyth Walsø, leder for kunnskapsmiljøet i PIT.

Kunstig intelligens brukt i offentlig sektor, og ikke minst i myndighetsutøvelse er et kontroversielt tema. Men mulighetene er store.

Kunstig intelligens er ikke nytt for politiet, blant annet styres kameraet i pass-kioskene du bruker når du søker nytt pass av KI, men når det forholdsvis ferske Data Science-teamet i Politiets IT-enhet (PIT) begynner å snuse på bildegjenkjenning, tale til tekst-modeller og grafteknologi, trår de svært forsiktig.

− Det er noen streker man aldri må krysse, sier Løkenflaen.

Må rammes inn

− Alle områdene i politiet, ikke bare kan, men bør ta i bruk verktøy som kan gi bedre tjenester for samme pengesum, sier Løkenflaen og fortsetter:

− Men det må rammes inn, det vi ikke ønsker er teknologi på avveie.

Det er etiske og juridiske vurderinger som må sette rammer for teknologien, mener han.

− Det offentlige Norge må ha en formening om i hvilken grad man kan bruke kunstig intelligens og innenfor hvilke områder. Det forutsetter en debatt med både publikum og på politisk nivå om hvor langt man kan gå og under hvilke forutsetninger, sier Løkenflaen.

En opplyst debatt krever også bevissthet om hvordan verktøyene lages, kontrollers og brukes.

Derfor må politiet selv sitte på kompetansen, enten de bygger selv eller bruker løsninger fra markedet.

Må hindre teknologi på avveie

− Vi er avhengige av å ha et fagmiljø som holder i det. Vi kan ikke godta at vi etablerer en «black box», vi må kunne forklare hva som skjer, sier Walsø, og fortsetter.

− Så må vi starte der vi tenker det er størst potensial, samtidig som det er minst risiko.

For noen år siden begynte Politiets IT-enhet å bygge opp den interne teknologikompetansen på nye områder. Nå har de også fått på plass et data science-team med tolv teknologer. Teamet jobber med tre ulike teknologier under samlebetegnelsen kunstig intelligens: Tale-til-tekst, bildegjenkjenning og grafteknologi.

Målet er bedre tjenester og mer for pengene, gjennom å koble politifaget og teknologene tett sammen, og å bryte dataene ut av siloene sine, for å dra nytte av dem på tvers.

Avhør og fotobevis

Som mange andre har politiet så smått begynt å utforske tale-til-tekst-modeller.

− Det er jo ganske kjent teknologi, som vi ser på hvordan vi kan tilpasse til vårt formål og bruke til å effektivisere politiets arbeid, sier Walsø.

Sammen med NTNU utforsker de mulighetene i automatisk transkribering av avhørsdata. Da kommer diskusjonen om hvor stor feilmargin man kan godta, og hva feilmarginen er i den tradisjonelle måten å gjøre det på.

Det lille teamet som jobber med bildegjenkjenning ser blant annet på hvordan teknologien kan brukes til å kjenne igjen ulike objekter i fotografier.

Grafteknologi handler om å finne forbindelser mellom informasjon og større sammenhenger. Det kan hjelpe politiet å se mønstre i kriminalitetsutviklingen, og planlegge egne ressurser.

− Mange snakker om kunstig intelligens som en stor greie, men det er på mange måter bare et verktøy. Det viktige er hvilket problem du skal løse, sier Walsø.

Løsning som ser etter et problem?

Innen programvareutvikling er nettopp fokuset på problemet som skal løses, og ikke løsningen, et viktig prinsipp for mange.

Derfor kan det virke pussig at politiet i akkurat denne sammenhengen, har valgt å ta utgangspunkt i teknologien, for så å lete etter problemer den kan løse.

− I denne situasjonen er det riktig, nettopp fordi det er så viktig å ha kontroll på det etiske og juridiske, sier Walsø og fortsetter:

− Det er også relevant hvem i politiet som har kapasitet og tid.

Å sitte og vente på en bestilling, eller la enkelte avdelinger ta i bruk teknologien etter eget ønske, ville ikke vært holdbart, mener han.

For selv om det absolutt er teknisk mulig å for eksempel drive automatisk overvåking av mobilbruk i bil, slik det engelske politiet gjør, må de etiske og juridiske vurderingene gjøres lokalt, og åpent, mener politiet.

− Jeg har tro på så stor grad av transparens som overhodet mulig. Det er et premiss for at politiet skal opprettholde sin tillit i befolkningen, sier Løkenflaen.