JUSS OG SAMFUNN

Analyserte én million overgrepsbilder av barn for å kunne stoppe dem automatisk

Passerte én million bilder på bare ett år.

En million overgrepsbilder er analysert og kan nå stoppes automatisk fra å lastes opp.
En million overgrepsbilder er analysert og kan nå stoppes automatisk fra å lastes opp. Foto: Internet Watch Foundation
9. juni 2022 - 14:00

På bare ett år har Internet Watch Foundation (IWF) analysert og kategorisert én million overgrepsbilder og -videoer av barn.

Samtidig genereres en såkalt hash for hvert bilde eller video, og i denne legges det også en del kontekstuell metadata som blant annet beskriver hva slags overgrep det er som vises. Dette legges så inn i en database, som nå altså inneholder mer enn én million oppføringer.

En hash kan sies å være et slags DNA eller fingeravtrykk av hvert bilde. Selve bildet legges ikke inn i databasen, men hash-koden kan benyttes til å identifisere det.

Selv om bildet eller videoen gjøres større eller mindre, beskjæres eller endrer farge, kan hash-koden identifisere det raskt. Ved hjelp av databasen kan dermed et overgrepsbilde stoppes før det lastes opp eller ned – raskt og pålitelig og uten at noen får se det.

Og uten at barna som er avbildet blir enda mer eksponert enn de allerede er.

Felles standard

Hvert eneste bilde eller video er vurdert av to personer, uavhengig av hverandre, for å sikre at kategoriseringen er riktig.

Livreddende eller invaderende? Apple har nye planer for Iphone.
Les også

Apple vil skanne Iphoner i USA for overgrepsbilder

Hvert bilde eller video gis en bokstav A, B eller C, etter alvorlighetsgrad, der A er mest alvorlig. Materiale som kategoriseres som A eller B analyseres, og hashen legges inn i databasen.

Denne kategoriseringen er viktig fordi den er felles for – eller kan tilpasses ved hjelp av metadataene – Storbritannia, USA, Canada, Australia og New Zealand, såvel som for Interpol.

– Materialet som er lagret i denne databasen inkluderer noe av det aller verste kriminelle materialet politiet noensinne har sett, sier Susie Hargreaves, daglig leder i IWF.

– De sjokkerende overgrepene våre ansatte ser bli utført mot barn, er så ekstreme at vi bare lar dem jobbe skift på fire timer.

Samarbeid med Microsoft

Databasen gjøres tilgjengelig i to formater, MD5 og Microsofts PhotoDNA. Dette er lignende teknologi som Apple planlegger å bruke for å skanne sine tjenester for overgrepsmateriale.

IWF samarbeider også med Microsoft for å gjøre databasen tilgjengelig via skyen. Dette setter mindre selskaper i stand til å automatisk sjekke opplastinger mot databasen, uten å ha egne ressurser for det.

Apple utsetter skanning etter overgrepsbilder på Iphone.
Les også

Apple setter skanning av Iphone på vent

Del
Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.