Vil bruke kunstig intelligens til å kartlegge risiko for overgrep mot barn

Politipatruljer på nett i form av digitale roboter skal avdekke mulige overgrep mot barn. Politihøgskolen og Universitetet i Agder samarbeider om utviklingen.

Konseptet, som har fått navnet PrevBOT, er et verktøy for patruljering på åpne sosiale medier, med mål om å forebygge seksuelle overgrep mot barn. Verktøyet skal, ved hjelp av kunstig intelligens, kunne kartlegge atferd som indikerer risiko for seksuelle overgrep, og den skal kunne peke ut sosiale arenaer det er verdt å følge ekstra med på. Den skal kunne identifisere grooming-samtaler via analyse av språk, og den skal kunne predikere alder og kjønn på de involverte.

Nå er prosjektet plukket ut til Datatilsynets regulatoriske sandkasse for kunstig intelligens. Sandkassen ble opprettet i 2020 og har fungert som et trygt miljø der utvalgte norske virksomheter for en periode har fått veiledning fra Datatilsynet når de har tatt i bruk nyutviklede AI-løsninger som behandler personopplysninger.

Pekefingerrefleks

– Prosjektet er nybrottsarbeid, der vi mangler gode eksempel å støtte oss på. Det involverer ordensmakten og er sensitivt på mange måter. Å få utforsket prosjektet i sandkassa er i praksis trolig et være eller ikke være for prosjektet, seier Inger Marie Sunde, professor ved forskningsavdelingen ved Politihøgskolen, i en nyhetsmelding.

Det overordnede formålet med prosjektet er å forebygge seksuelle overgrep mot barn. Om dette er mulig å få til med verktøyet innenfor gjeldende lover og etiske retningslinjer, med god nok teknisk presisjon, er det Datatilsynet skal hjelpe til med å finne ut av. Tilsynet spør seg også om det vil den kreve en debatt om hvordan vi bør og vil bruke ny teknologi.

– For oss som jobber med personvern, rykker det automatisk litt i pekefingerrefleksen. Nettopp derfor blir det ekstra spennende å gå inn i dette prosjektet med med et åpent sinn og se om dette er noe som er mulig å få til uten at det kommer i konflikt med personvernet, sier avdelingsdirektør Veronica Jarnskjold Buer i Datatilsynet i meldingen.

Personvernvennlig ansiktsgjenkjenning

Også oppstartsselskapet Mobai tas opp i Datatilsynets sandkasse. Selskapet vil utvikle en sikker og personvernvennlig løsning for ansiktsverifikasjon av brukere av banktjenester, som et tiltak mot økt svindel, ifølge meldingen.

Datatilsynet påpeker at både det europeiske datatilsynet mener ansiktsgjenkjenning, og særlig ansiktsgjenkjenning i kombinasjon med kunstig intelligent analyse, er et krevende og utfordrende tema med høy risiko.

– Begge prosjektene griper dypt inn i områder Datatilsynet og samfunnet generelt trenger mye kunnskap og åpenhet om. Begge prosjektene har potensial i seg til å kunne bli både krevende og spennende, sier Buer i Datatilsynet i meldingen.