Allierer seg for å gjøre livet på nettet tryggere for unge nettspillere
Visste du at setningsstrukturen din, bruken av emojis, hastigheten på tastetrykk eller valg av ord avslører hvor gammel du er og hvilket kjønn? Vel, det gjør det. Nå er programvaren Aiba, som klarer å identifisere potensielle skadelige samtaler innenfor 20 chat-meldinger, på vei til markedet.
By Anja Lillerud, | Oversatt av Inmeta
Cybergrooming er en stor trussel mot barn og unge på internett. Ved å etterligne unge mennesker gjennom falske nettkontoer, når voksne ut til barn og tenåringer på chat- og spillplattformer med mål om å bli venner med dem. Over tid bygger de et tillitsbasert forhold til barna før det utvikler seg til et mareritt for de unge.
– Cybergroomerne sin hensikt er å oppmuntre barna til å sende seksualiserte bilder og nakenbilder av seg selv. Hvis de får noen, vil de kreve mer. Etter massivt press og trusler om spredning, og i fortvilelse for å prøve å unngå at nakenbildene går viralt, sender mange unge nye bilder for å glede gjerningspersonen, forteller Hege Tokerud, administrerende direktør og medgründer av Aiba.
Noen forhold eskalerer seg fordi gjerningspersonene klarer å overtale barna og tenåringene til å møtes personlig. Slike møter fører svært ofte til fysiske seksuelle overgrep.
En proaktiv løsning
Ved å bruke AI, trener Aiba algoritmer til å oppdage potensielle cybergrooming-samtaler på et tidlig stadium når en forbindelse på en spill- eller chat-plattform der Aiba-løsningen er implementert, etableres. Hvis en blir identifisert, varsler programvaren plattformeierne for å gjøre dem oppmerksomme på at tiltak bør gjøres.
For å sikre påliteligheten og at riktige tiltak iverksettes, vil en av de ansatte verifisere varslingen før tiltak aktiveres.
– Det som gjør Aiba unik, er den proaktive tilnærmingen til problemet. Målet vårt er å stoppe groomingen så raskt som mulig etter et forhold til et barn er etablert. Tidligere kunne vi oppdage og identifisere cybergrooming innenfor 40 chat-meldinger. Nå klarer vi det på under 20 meldinger, forklarer Tokerud.
Ekspert på atferds biometri
Bak teknologien presentert i Aiba skjuler det seg mange års forskning på atferds biometri. Setningsstruktur, bruk av emojier, hastighet og rytme på tastetrykk, og valg av ord er elementer som kan avsløre alder og kjønn.
Professor og forsker ved Norges teknisk-naturvitenskapelige universitet (NTNU), Patrick Bours, er ekspert på kontinuerlig analyse og atferds biometri og hadde ideen om å kommersialisere forskningsresultatene.
AI-løsning designet av Inmeta
Den teknologiske implementeringen er utviklet av Inmeta, et norsk konsulentselskap i Crayon group, som er spesialisert på digital og datadrevet innovasjon. Selskapet har mer enn 200 rådgivere og konsulenter med base i Oslo, Trondheim, Hamar og Bergen:
– Da Hege kontaktet oss for å utvikle den nødvendige teknologien for å realisere Aiba-prosjektet, var det ingen tvil. Vi ville være med! Dette er et prosjekt som betyr noe, og Inmeta ønsker å sette fotspor, sier Henrik Slettene, avdelingsleder for AI og ML i Inmeta.
I løpet av de siste 7 årene har Inmeta levert 150 maskinlæringsprosjekter til mer enn 50 selskaper i både privat og offentlig sektor. Med 25 dedikerteData Scientists og forretningsrådgivere som utelukkende fokuserer på kunstig intelligens-domenet, tar Inmeta for seg hele verdikjeden. Det inkluderer strategiutvikling, dataplattformer, datavitenskap og analytisk modellutvikling, AI-operasjonalisering og forretningsendring og -utvikling.
Ingen lovgivning i Europa
Tilgang til atferds biometriske data er avgjørende for å kunne trene Aiba-algoritmen til å oppdage og identifisere cybergroomere. Paradoksalt nok, er mangel på data en av de store utfordringene prosjektet står overfor.
– Vi opplever at noen spillselskaper er tilbakeholdne med å involvere seg i Aiba fordi de frykter for å bli knyttet til cybergrooming på en negativ måte. Likevel erkjenner alle at cybergrooming er et stort og økende problem, og vi oppfordrer bransjen til å endre tilnærming til temaet, sier Tokerud.
I USA er bransjen regulert av en lov som forplikter selskapene til å sikre sine brukere. En lignende lovgivning er blitt forsøkt å innføres i EU uten å lykkes. Bransjen argumenterer for at lovgivningen vil være for ressurskrevende til å følge opp, og at det derfor vil være en sovende lovgivning.
– Men nå har vi en løsning, påpeker Tokerud.
– Barna dine er trygge hos oss
To globale spillselskaper som retter seg mot barn og unge er piloter i Aiba-prosjektet. De skal implementere programvaren, teste den og gi verdifull tilbakemelding for å forbedre produktet.
– Spillselskapene tenker annerledes om deres tilknytning til cybergrooming. Det er viktig for dem å kommunisere til foreldre over hele verden at «dine barn er trygge på våre plattformer», sier Tokerud.
Pilotene er essensielle for å trene og forbedre Aiba-algoritmen. I tillegg har prosjektet også et samarbeid med norsk politi for å finne ut om programvaren kan brukes til å oppdage cybergrooming-samtaler i pågående etterforskning.
– Å utvikle en programvare som dette er en krevende og utfordrende oppgave, som vil være avbruddsfri. Noen vil alltid prøve å finne en måte å lure systemet på. Derfor er det et behov for konstant data fra autentiske chat-logger, forklarer Slettene.
Patrick Bours deltok på konferansen AI+ sammen med Data Scientist Saghar Asadi fra Inmeta. Der fortalte de mer om forskningen og teknologien bak Aiba.
