Big datas mørke side: Slik kan privatpersoner få kontroll over hvordan data deles og brukes av bedrifter

Dataforskere som skriver logaritmene som driver giganter som Alphabet Inc. (Google) og Facebook Inc. er dagens teknologiske trollmenn, og bedrifter og myndigheter bruker i stadig større grad produktene deres – ofte i hemmelighet og med liten kontroll – til å gjøre alt fra å ansette og sparke folk til å identifisere mulige kandidater for politiovervåkning. Men dette har en mørk side, og dataforskere advarer om at vi vil trenge mye mer gjennomsiktighet hvis «big data»-revolusjonen skal fungere skikkelig for oss.

Fikk sparken på grunn av hemmelig dataalgoritme

I sin siste bok «Weapons of Math Destruction», forteller matematikeren Cathy O'Neil historien om Sarah Wysocki; en lærer som fikk sparken fra jobben sin på MacFarland ungdomsskole i Washington etter at en dataalgoritme kvernet gjennom tall om prestasjonene til elevene, og vurderte henne som en dårlig lærer. Både elevene og foreldrene mente konsekvent at hun var en utmerket lærer, men hun kunne likevel ikke på en skikkelig måte imøtegå avgjørelsen, siden bedriften som utviklet algoritmen hevdet at de hadde en rett til hemmelighold av sin eiendom. Oppsigelsen ble opprettholdt selv om det var bortimot sikkert at algoritmen, med de begrensede dataene som var analysert, ikke kunne ha produsert noen statistisk meningsfull konklusjon.