Den norske AI-startupen Anzyz mener de kan gjøre det Facebook ikke klarer

Foran den amerikanske kongressen i fjor, uttalte Mark Zuckerberg at de i løpet av fem til ti år ville ha på plass AI-verktøy som automatisk kan fange opp og stoppe hatefulle ytringer på Facebook.

Den norske AI-startupen Anzyz mener de har en algoritme som kan gjøre dette i dag. Nå skal de hjelpe Sri Lanka med å stoppe uønsket innhold på nett.

Møtte presidenten

Etter at Sri Lanka i påsken ble utsatt for flere terrorangrep mot kirker og hoteller, blokkerte srilankiske myndigheter i en periode flere sosiale medier og meldingsapper på grunn av hatefulle ytringer som de mente førte til opptøyer og angrep, blant annet på moskeer og muslimskeide butikker.

Også før terrorangrepene var det stor spredning av hatefulle ytringer blant srilankere på nett, og srilankiske myndigheter vært aktive i den verdensomspennende diskusjonen om hvordan man kan fange opp og stoppe slike ytringer, uten å måtte blokkere hele tjenester.

Ifølge Per Morten Hoff, styreleder i Anzyz, var det tilfeldigheter som førte til samarbeidet mellom det lille, norske selskapet, Slasscom (Sri Lanka Association for Software and Services Companies – tilsvarende norske IKT-Norge) og srilankiske myndigheter.

– Vi hadde et samarbeid med et selskap på Sri Lanka, som hjelper oss med litt koding på andre områder enn dette. Så har vi vært på norsk delegasjonsreise dit og fått en del kontakter, og plutselig dukket dette spørsmålet opp, forteller Hoff.

– Vi tok dermed kontakt med myndighetene, som hadde hørt om vår algoritme, og så ble det da et møte på aller høyeste nivå, med den srilankiske statsministeren og ministeren for media.

Lærte kinesisk på ti dager

Algoritmen Anzyz bruker er utviklet med bakgrunn i ti år med forskning av informatiker Ole-Christoffer Granmo, professor og direktør for CAIR (Centre for Artificial Intelligence Research) ved Universitetet i Agder i Grimstad.

– Litt av det som er spesielt med vår løsning er for det første at den er språkuavhengig, så vi kan lære den alle språk, forklarer Hoff.

Han forteller at den blant annet brukte kun ti dager på å lære seg kinesisk, ved at de matet den med 300 000 kinesiske avisartikler.

– Det andre som er viktig er at den skjønner sammenhenger og innhold, uten at man behøver all den manuelle treningen. Den er fullstendig selvlærende.

– Lingvistikk har vært utgangspunktet for algoritmen, mens alle andre som har prøvd egentlig først har laget en algoritme og så gjort det omvendt. Vi mener at det er det som er nøkkelen til at vi kan gjøre en del ting som andre per dags dato ikke kan, sier Hoff.

Ikke de første

Anzyz er imidlertid ikke de første som mener de har svaret på automatisert moderering på nett. Ifølge britiske The Telegraph (gratis, men krever innlogging), sa Facebook nei til en slik løsning fra det finske startup-selskapet Utopia Analytics allerede i fjor.

Utopia Analytics skal ha henvendt seg til Facebook i månedene før terrorangrepene på Sri Lanka og sagt at de kunne hjelpe til med å stoppe spredningen av hatefulle ytringer, men ble avvist.

Selskapet hevder, i likhet med Anzyz, at deres løsning kan lære et hvilket som helst språk og fange opp og fjerne hatefulle ytringer med høy treffsikkerhet. Det argumenteres blant annet med at den kunstige intelligensen er utviklet til å lære finsk, som skal være et av de vanskeligste språkene for maskiner å forstå.

Imidlertid kan også Anzyz sin løsning finsk, og lærte det visstnok på tre dager under et oppdrag for Finlands største telekomleverandør, Elisa.

Ifølge Hoff ser det også ut til at Facebook endelig har fattet interesse for å se på eksterne leverandører av en slik løsning. Et møte mellom Anzyz og teknologidirektøren i Facebook på Sri Lanka skal være nært forestående, forteller han.

Må ikke bli sensur

Når man snakker om å moderere hatefulle ytringer, melder det seg noen viktige spørsmål: Hvor går grensen mellom fornuftig moderering og sensur, og hvem skal definere de grensene? Per Morten Hoff forteller at dette er vanskelige spørsmål som både de og Slasscom er svært bevisst på.

– Vil dette bli sensur? Kan myndighetene bruke det til å si at «statsministeren likte det ikke, så den meldingen må vi få sletta»? Her må det lages veldig klare regler.

Ifølge Hoff har de også fått henvendelser fra land hvor de ikke i samme grad stoler på at det ikke vil misbrukes, slik som Kina og Saudi-Arabia.

– Hvis vi hadde solgt dette til Saudi-Arabia, så ville det jo vært de som var ansvarlige for hvordan de brukte det. Vi leverer bare et verktøy. Det blir som om du kjøper et gevær, du kan bruke det lovlig til jakt, eller du kan bruke det til fryktelige ting.

– Men vi har valgt å ikke gjøre det. På Sri Lanka vil dette være bredt forankret blant IT-aktørene i landet, så vi føler at dette er et godt prosjekt som kan løse et samfunnsproblem, sier Hoff.

Han forteller også at Anzyz selv vil ha en aktiv rolle i å definere reglene for hva som går under hatefulle ytringer og problematisk innhold.

– Vi har blant annet hatt kontakt med menneskerettighetsorganisasjoner, Oslo Freedom Forum og den type aktører. Hva som er hatefulle ytringer kan oppfattes annerledes på Sri Lanka enn i Norge, og selv for to forskjellige nordmenn. Så her må det være snakk om åpenbart hatefulle ytringer.