– Man har bygd et system som manipulerer deg på måter vi ikke forstår

OSLO (Digi.no): – Tradisjonelt har man fryktet overvåkning fra myndighetene. Men private selskaper sin makt er blitt langt mer ugjennomtrengelig enn PST noen gang ville kunne oppnå, sier Dag Mostuen Grytli, rådgiver i Datatilsynet.

– Hele systemet er så obskurt og vanskelig. Jeg vet mer enn de fleste siden jeg jobber med dette, men jeg vet jo heller ikke det fulle omfanget av dette.

Systemet Grytli snakker om er overvåkningskapitalismen – et begrep som ble myntet av Harvard-professor Shoshana Zuboff. Hun gav ut boken «Overvåkningskapitalismens tidsalder» i januar 2019.

– Jeg oppfatter ikke dette som et angrep på kapitalismen som økonomisk system. Det er en kritikk av den nye mutasjonen av kapitalismen som trenger dypere inn i folks private sfære enn på noe tidspunkt tidligere, sier Grytli.

Et ektefødt barn av dotcom-boblen

Overvåkningskapitalismen er, skal vi tro Zuboff, et barn av dotcom-boblen. Krisen gjorde Google nødt til å finne en ny måte å tjene penger på. Selskapet drev allerede utstrakt innsamling av brukerdata, men denne ble kun brukt til å forbedre søkemotortjenesten.

Så kom ideen om å bruke slike data i reklameøyemed: Dersom brukere ble eksponert for reklame basert på tidligere atferd, ville presisjonen – og profitten – gå drastisk opp.

Og vips, så var brukernes atferd omdannet til en ressurs. Ressursen er intet mindre enn den menneskelige erfaring, ifølge Zuboff: Våre tanker, oppfatninger og følelser.

Det revolusjonerende var at dette nå kunne omdannes til data og prognoser om fremtidig atferd, som så selges til høystbydende tredjepart på såkalte prognosemarkeder.

Overvåkningskapitalismen var et faktum.

– Bygget for å gå stadig dypere

Og da Google-ansatte Sheryl Sandberg meldte overgang til Facebook, ble det som en gang var et sosialt medium gjort om til en reklamegigant, mens overvåkningskapitalismen ble standard forretningsmodell på internett, skriver Zuboff.

– Modellen krysser noen grenser for hvor langt man kan gå inn i det menneskelige, og er bygget for å gå stadig dypere, mener Grytli.

– Man har bygd et system som manipulerer deg på måter vi ikke forstår, forklarer Grytli, og legger til: – I nyere tid har jo dette utviklet seg. Det er ikke lenger bare overvåkning, men man forsøker i økende grad å endre og manipulere folks atferd. Verdien ligger i den manipulative delen.

Et spill inni et spill

Dette manifesterer seg kanskje aller mest tydelig i spillet Pokemon Go. Lenge trodde betalende brukere av spillet at det var de som var kundene. Senere viste det seg at selskapet bak, Niantic, tok seg betalt for «sponsede steder» i spillet.

Kunder som McDonalds og andre kunne dermed kjøpe seg inn, og sørge for at de mest sentrale plasseringene i spillet ble lagt til kjøpesentre og butikker. Selskapene betalte i sin tur en sum hver gang en bruker besøkte slike sponsede steder.

(Saken fortsetter under bildet)

Zuboff kaller fenomenet en slags atferdsbørs, der intetanende brukeres atferd selges til høystbydende.

Spillet er et eksempel på at man ikke lenger bare selger data om folk til reklameformål, men at man også – på stadig mer aggressive måter – tvinger frem atferd.

Nå kan virtuell virkelighet kobles sammen med den virkelige verden. I Pokemon Go kan man sende folk avgårde til faktiske kjøpesentre, der de bruker faktiske penger.

– Når vi vet at Norges statsminister sitter i stortingssalen og spiller Pokemon Go, så viser det hvor enkelt det har vært å rulle ut disse systemene, forteller Grytli.

Personalisering til besvær

Nå rykker stadig flere smart-produkter – alt fra smarte vodkaflasker og rektaltermometre til smarte senger og pulsklokker – inn på markedet, og sørger for at data om stadig større deler av den menneskelige erfaring, også biometriske data, blir del av overvåkningsøkonomien.

Ifølge Zuboff har stadig mer aggressiv datainnsamling gått under radaren dels fordi man har benyttet den forskjønnende merkelappen «personalisering». Grytli mener det er feilslått å rettferdiggjøre det hele med å argumentere for at folk ønsker personaliserte tjenester.

– Nesten ingen vet hvor mye data det er snakk om eller hva den brukes til. Pew utførte en undersøkelse der de ga folk denne informasjonen, og dermed bedre basis for å svare. Da var folk negative, understreker Grytli.

Og selv om det er lett å lese Zuboffs argumentasjon og tenke at det ikke er noen vei tilbake, mener Grytli at det er mulig å reversere utviklingen.

– Jeg tror det finnes muligheter, både på nasjonalt og europeisk plan. Kanskje undervurderer vi det potensialet som ligger i GDPR og en del nyere amerikansk personvernlovgivning.