Innlandet-politiet tar i bruk KI for å avverge nettovergrep

Innlandet politidistrikt skal ta i bruk kunstig intelligens for å avverge og forebygge nettovergrep.

Politidistriktet har inngått en samarbeidsavtale med selskapet AIBA AS for å forebygge seksuelle overgrep på nett.

– AIBA har som hensikt å utvikle løsninger for å trygge barn og unge på nett, ved å avdekke «cyber grooming» ved hjelp av AI (kunstig intelligens) i nåtid som analyserer atferds-signaler som tasterytme, kommunikasjon med andre, innhold i tekst med mer, skriver Innlandet politidistrikt i en pressemelding.

Avtalen, som er godkjent av Riksadvokaten, ble signert på politihuset i Hamar onsdag.

«Cyber grooming» er et uttrykk for prosessen hvor en voksen forsøker å gjøre seg til venn med et barn via nettet med mål om å møtes og begå seksuelle overgrep. Typisk vil den voksne personen oppgi en lavere alder enn sin virkelige alder for å få kontakt med barnet.

Flere utfordringer

AIBA (Author input Behavior Analysis)s detektering av såkalt «cyber grooming» tar blant annet utgangspunkt i at alder og kjønn spiller en rolle for hvordan vi snakker eller skriver.

Digi omtalte prosjektet da det ble presentert under en kunstig intelligens-konferanse i Halden i mai i fjor.

Med løsningen brukes kunstig intelligens til å vurdere risikoen for at det er en potensiell overgriper på ferde, og det skal utløses en alarm når visse parametere når terskelverdier. Da vil en menneskelig moderator kunne overta.

Én av mange utfordringer er at det ikke er uvanlig at overgriperne sørger for at samtalen med offeret hopper mellom ulike kommunikasjonstjenester, for å skjule sammenhengen. Dette kan dog avsløres dersom etterforskere får tilgang til en mistenkts brukerenhet.

En annen utfordring er at prosjektet har begrenset med data fra vellykket «grooming», siden dette sjelden rapporteres.

Modellene i AIBA må også trenes til å forstå språket som benyttes. I tillegg til vanlig engelsk, som er språket som AIBA-prosjektet så langt har jobbet med, brukes det i chatten ofte emojier, leet-språk og komprimert SMS-språk, men også bevisste skrivefeil, for eksempel ord hvor det er satt inn ekstra bokstaver, skrev Digi i fjor.

NTNU bak teknologien

Det er NTNU Gjøvik som står bak teknologien, skriver Politiforum.

Allerede høsten 2019 fikk NTNU-professor Patrick Bours i samarbeid med NTNU Technology Transfer AS, såkalte Discovery-midler til å bygge verktøyet og verifisere teknologien mot industriaktører, skrev NTNU Discovery i 2020, ifølge nettstedet.