Modererte Facebook: – Jeg ofret livet mitt

– Jeg begynte å få angst og hadde problemer med å puste. Jeg fikk ikke sove på grunn av mareritt nesten hver natt. Til slutt veide jeg bare 46 kilo, så du ville ikke kjent meg igjen i dag, forteller Kauna Malgwi til Version 2 på video fra hjemmet sitt i Nairobi, Kenyas hovedstad.

Kauna Malgwi ble ansatt i Samasource, en selverklært etisk KI-outsourcing-leverandør for flere store teknologiselskaper.

Hun og 144 tidligere ansatte har nylig fått diagnosen PTSD, og i flertallet av tilfellene (81 prosent) i en alvorlig grad. Dette er en del av en rettssak anlagt i Kenya i 2023, der 185 tidligere ansatte krever kompensasjon for det de mener var menneskerettighetsbrudd som påførte dem livsvarige fysiske og psykiske skader.

Etter at en ansatt sto frem og fortalte om dårlige lønninger (mindre enn to dollar i timen) og et umenneskelig arbeidspress preget av overvåkning og mistillit, ble alle ansatte sagt opp uten kompensasjon. Facebook har nektet å kompensere de ansatte til tross for en lokal avgjørelse om at selskapet har arbeidsgiveransvar.

Verken Meta, Facebooks morselskap, eller Samasource har ønsket å kommentere saken på grunn av den pågående rettsprosessen, skriver The Guardian.

Facebook-grunnlegger og styreleder Mark Zuckerberg uttalte i en video tirsdag at selskapet i fremtiden vil redusere bruken av moderatorer og faktasjekkere på plattformene sine. Han innrømmet at dette vil føre til mer skadelig innhold.

Trodde det var oversetting

Kauna Malgwi er opprinnelig fra det nordlige Nigeria. Etter at onkelen og vergen hennes ble drept av den islamistiske terrorgruppen Boko Haram, flyktet hun og moren til hovedstaden Abuja. I 2018 reiste hun til Nairobi for å fullføre en mastergrad i psykologi ved det amerikanske universitetet i byen.

For å betale for studiene måtte hun finne en jobb, noe som var nær umulig som utlending. Da hun så en annonse fra Samasource som søkte folk til å oversette fra morsmålet hennes, hausa, virket det som en perfekt mulighet.

– Vi trente intensivt i to uker, men kun med svart-hvitt-bilder. Det kunne være profilbilder vi skulle vurdere, men også bilder av blod, som var vanskelig å se på grunn av mangelen på farger, sier hun.

Først etter noen dager med opplæring i et varmt undervisningslokale forsto hun at jobben dreide seg om innholdsmoderering for Facebook. Hun ble deretter bedt om å signere en NDA (taushetsavtale) som forbød henne å diskutere arbeidet med noen.

I begynnelsen var jobben som moderator enkel. Etter et par timer med intenst arbeid kunne hun ofte sitte uten oppgaver resten av vakten. Jobben innebar å følge Facebooks retningslinjer slavisk. Hver video måtte vurderes i løpet av 50 sekunder og kategoriseres etter innholdsbrudd.

– Vi måtte se gjennom alle videoer eller bilder og zoome inn for å sjekke om det var synlige kjønnsorganer, fordi det var det største bruddet på retningslinjene. Deretter måtte vi nøyaktig beskrive om det var en mann eller kvinne, og om det var en ulykke, slik at algoritmen kunne forstå hva bildet viste og fjerne det, sier hun.

– Folk begynte å besvime

Men Kauna Malgwi husker tydelig hvordan det plutselig ble mer krevende å gå på jobb.

Det var særlig de etiopiske moderatorene, som kom fra et land midt i en blodig borgerkrig, som først fikk svært voldelig innhold. Etter hvert dukket det opp hos alle.

– Før vi visste ordet av det, fikk vi voldelige bilder av folk som ble knivstukket eller fikk halsen skåret over. Kollegaer begynte å besvime i lokalet, folk skrek og gråt, og det sto ofte en ambulanse utenfor som hentet folk. Det var kaotisk, sier hun.

– Hver dag var det kollegaer som meldte seg syke, men Samasource betalte kun for sju sykedager i året, så resten måtte tas på egen regning, forteller Kauna.

Hun begynte å gå til legen fordi hun slet med å puste og sove om natten, men kunne ikke forklare årsaken på grunn av taushetsavtalen.

– Jeg sa bare at jeg jobbet på et callsenter, slik jeg var instruert, sier hun.

Legen ga henne antidepressiver, som hjalp henne å sove og stabiliserte humøret. Hun ble også sendt til en psykolog, men turte fortsatt ikke fortelle om jobben.

Kjemper for rettferdighet

I mars 2023 sluttet Kauna Malgwi som innholdsmoderator da firmaet sa opp alle ansatte i Kenya. Etter dette var det nesten umulig for henne og andre å få nye jobber, ettersom deres aktive motstand spredte seg som rykter blant arbeidsgivere.

Hun jobber nå med Uniglobal og har startet en NGO for å bedre de ansattes psykiske helse. Opp mot jul ble hun kåret til en av de 100 mest innflytelsesrike personene innen AI av Time Magazine.

– Det handler ikke om anerkjennelsen, men om at folk skal forstå historien vår. Vi ofret livene våre for at folk skulle være trygge. Vi fjernet så mange IS-angrep og alt annet uten å få noe annet enn 60.000 kenyanske shilling. For meg er det fantastisk å være på et sted der historien vår blir hørt, sier hun.

Skjulte kostnader ved moderering

Til tross for AI-framsteg har Facebook fortsatt en hær av 40.000 moderatorer. Diagnoser med PTSD, depresjon og angst er blant de menneskelige kostnadene ved å moderere sosiale medier.

– Vi har alle et ansvar for å kreve at teknologigigantene tar ansvar. De skader oss som jobber bak kulissene. Vi blir pålagt taushet, ikke anerkjent, og dårlig betalt, sier hun.

Artikkelen ble først publisert på Version 2 for deres abonnenter. Den er tilgjengelig på norsk for abonnenter av Ekstra gjennom vår samarbeidsavtale.