Big datas mørke side: Slik kan privatpersoner få kontroll over hvordan data deles og brukes av bedrifter

Dataforskere som skriver logaritmene som driver giganter som Alphabet Inc. (Google) og Facebook Inc. er dagens teknologiske trollmenn, og bedrifter og myndigheter bruker i stadig større grad produktene deres – ofte i hemmelighet og med liten kontroll – til å gjøre alt fra å ansette og sparke folk til å identifisere mulige kandidater for politiovervåkning. Men dette har en mørk side, og dataforskere advarer om at vi vil trenge mye mer gjennomsiktighet hvis «big data»-revolusjonen skal fungere skikkelig for oss.

Fikk sparken på grunn av hemmelig dataalgoritme

I sin siste bok «Weapons of Math Destruction», forteller matematikeren Cathy O'Neil historien om Sarah Wysocki; en lærer som fikk sparken fra jobben sin på MacFarland ungdomsskole i Washington etter at en dataalgoritme kvernet gjennom tall om prestasjonene til elevene, og vurderte henne som en dårlig lærer. Både elevene og foreldrene mente konsekvent at hun var en utmerket lærer, men hun kunne likevel ikke på en skikkelig måte imøtegå avgjørelsen, siden bedriften som utviklet algoritmen hevdet at de hadde en rett til hemmelighold av sin eiendom. Oppsigelsen ble opprettholdt selv om det var bortimot sikkert at algoritmen, med de begrensede dataene som var analysert, ikke kunne ha produsert noen statistisk meningsfull konklusjon.

Wysocki ble like etter ansatt på en skole med et bedre oppbygd system som stolte på at mennesker kan foreta avgjørelser. Mange andre har ikke vært like heldige. Boka til O’Neil presenterer et alarmerende bilde av et kappløp om å tjene penger på eksplosjonen av data om menneskelig oppførsel, noe som ofte skjer uten å ta hensyn til grunnleggende normer for rettferdighet. Bedrifter nekter noen ganger kreditt til folk dersom de har handlet i butikker som blir besøkt av andre med lav kredittverdighet. Automatiserte analyser av data blir mye brukt for å ta avgjørelser om inntak på universiteter, under ansettelser og selv til politiske strategier. Og praksisen, slik O’Neil viser, forsterker ofte rasediskriminering, til tross for at det hele kan se ut til å være objektivt.

Dette må gjøres

Hva kan gjøres? Det er langt fra klart, men forskere innser i stadig større grad hvor alvorlig problemet er. I en ny rapport undersøker dataforskeren Bruno Lepri og kolleger av ham noen av de viktigste ideene de har om hvordan teknologien i seg selv kan være til hjelp.

Det aller første som må gjøres, er å finne metoder for å kontrollere hvordan data kan brukes. Forskere på Medielaboratoriet ved Massachusetts Institute of Technology utvikler en skytjeneste ved navn Enigma, der privatpersoner kan dele dataene sine, og samtidig kontrollere hvordan de kan brukes. La oss si at et forsikringsselskap ønsker å bruke dataene fra mobiltelefonene til folk for å vurdere risikoer mer nøyaktig, noe som kan gi kundene billigere poliser. Både bedriften og kunden kan ha nytte av det, men hvis individer bare overlater disse dataene til en bedrift, kan det hende at bedriften selger dem, eller bruker dem til andre formål. Systemet som nå utvikles – basert på bitcoin-teknologi – ville la enkeltpersoner beholde eierskapet til dataene, la dem følge hvordan de brukes, og eventuelt kunne melde seg ut øyeblikkelig.

Et annet behov er å gjøre de enorme mengdene med data som finnes privat hos bedrifter som Amazon.com Inc. eller Facebook mer tilgjengelige. Prosjektet Open Algorithms – et samarbeidsprosjekt blant flere bedrifter innen telekommunikasjon og universiteter – tar sikte på å gjøre private data mer åpne for bredere bruk, men på en trygg måte. Ideen er å dele kode i stedet for data. Offentlige myndigheter, forskere eller andre grupper som driver med offentlig arbeid, ville ha mulighet til å kjøre sine egne algoritmer på serverne til samarbeidende bedrifter ved å bruke dataene som disse enhetene har samlet inn, men i forskningsøyemed, eller for å evaluere policyer for alt fra økonomi til folkehelse. Hvis menneskers oppførsel skaper dataene, burde alle kunne dra nytte av dem, og ikke bare enkeltbedrifter.

Et siste problem er å gjenopprette balansen mellom bedrifter og privatpersoner. Etter hvert som algoritmene blir stadig mer kompliserte og kraftige, vil mønstrene de oppdager i dataene kanskje ikke bli forstått av alle, inkludert programutviklerne, og dette gir ingen mulighet for at privatpersoner kan bestride avgjørelser foretatt på grunnlag av dem. Defense Advanced Research Projects Agency – organet i USA som i stor grad var ansvarlige for dannelsen av internett – har et viktig prosjekt som er rettet mot å gjøre kunstig intelligens mer forståelig. Hvis en algoritme foretar en beslutning om for eksempel å sette inn mer politi i et spesielt område, burde den også generere resultater som forklarer hvordan den foretok dette valget, og klargjøre usikkerhetene som finnes. Da kunne myndighetene benytte algoritmene mer intelligent.

Dette er bare noen av de oppmuntrende initiativene som begynner å dukke opp. Det er åpenbart et enormt potensial for en revolusjon innen store datamengder for å oppnå gode ting. Men teknologi kan brukes til både noe bra og noe mindre bra, og det er alltid et moralsk aspekt i bruken. Vi må presse på for mer teknologi som verner privatlivet, og som får dataene til å fungere både for privatpersoner og for private bedrifter.

Mark Buchanan er fysiker og vitenskapelig skribent, og forfatteren av boka «Forecast: What Physics, Meteorology and the Natural Sciences Can Teach Us About Economics.»