Overvåkningskapitalisme

Advarer mot «skyggeverden»: – Ingenting som hindrer et nytt Cambridge Analytica, og antakeligvis skjer det hele tiden

I del tre av vår serie om overvåkningskapitalismen snakker vi med Gerald Foldvord i Amnesty (bildet) og universitetslektor Gisle Hannemyr.

Gerald Folkvord er politisk rådgiver med ansvar for teknologi og menneskerettigheter i Amnesty International i Norge.
Gerald Folkvord er politisk rådgiver med ansvar for teknologi og menneskerettigheter i Amnesty International i Norge. (Foto: Eirik Tangeraas Lygre)

I del tre av vår serie om overvåkningskapitalismen snakker vi med Gerald Foldvord i Amnesty (bildet) og universitetslektor Gisle Hannemyr.

Hei, dette er en Ekstra-sak som noen har delt med deg.
Lyst til å lese mer? Få fri tilgang for kun 235,- i måneden.
Bli Ekstra-abonnent »

OSLO (Digi.no): – Det er ikke vanlig at Amnesty involverer seg i sånt. Men vi ser at Facebook og Google har en forretningsmodell som bygger på massiv overvåkning av alle sine brukere, og også veldig mange ikke-brukere. Man samler inn data, analyserer disse, og selger det videre til aktører som ønsker å påvirke oss. 

Det sier Gerald Folkvord, politisk rådgiver i Amnesty med ansvar for teknologi og menneskerettigheter. I november ga Amnesty International ut en rapport som går kraftig ut mot det mange nå kaller overvåkningskapitalismen. 

Algoritmene fremmer nettroll og ekstreme holdninger og bygger opp under splittelse i samfunnet

I rapporten skildres Google og Facebook sin forretningsmodell som uforenlig med retten til privatliv, og som en systemisk trussel mot ytringsfrihet, meningsfrihet, tankefrihet og
retten til ikke-diskriminering.

Dette utgjør, ifølge Amnesty, en av de største truslene mot menneskerettighetene i vår æra.

Les også: Dette er overvåkningskapitalismen:  Man har bygd et system som manipulerer deg på måter vi ikke forstår.

– Ingenting som hindrer et nytt Cambridge Analytica

– For det første gjelder det spredning av hat. Man ser at utsatte grupper trekker seg fra samtalen på nett, og PST skildrer dette som en av de viktigste truslene mot det norske demokratiet. Algoritmene fremmer nettroll og ekstreme holdninger, og bygger opp under splittelse i samfunnet. 

Amnesty-rapporten «Surveillance Giants: How the business model of Facebook and Google threatens human rights» advarer mot at overvåkningskapitalismen går ut over grunnleggende menneskerettigheter. Foto: Skjermdump

Folkvord beskriver en uregulert «skyggeverden» der ingen har kontroll på hva som foregår.

– Det er egentlig ingenting som hindrer et nytt Cambridge Analytica, og antakeligvis skjer det hele tiden, bare på steder der man ikke legger merke til det.

– Men ytringsfrihet knytter seg også til tilgang på informasjon. Mantraet nå er at man skal tilbringe mest mulig tid på en side, og det funker ikke hvis man hele tiden blir konfrontert med ting man må tenke over.

– I stedet får man mer av det samme, og slik blir tilgang til informasjon kraftig begrenset – algoritmene kanaliserer meg til mine egne holdninger, og dette er del av forretningsmodellen.

Informasjonsmonopol

Desto mer problematisk blir dette når Facebook og Google står i en duopol-situasjon innenfor sosiale medier og søkemotortjenester, mener Amnesty.

– På den ene siden er det veldig fint at Facebook på eget initiativ driver innholdsmoderering av høyreekstremt og rasistisk innhold. Men det er problematisk at en liten gruppe bestemmer hvilken informasjon 2,6 milliarder mennesker mottar.

– Det er ingen rettsstatlig eller demokratisk kontroll involvert, og selskaper som Facebook og Google er umulige å ansvarliggjøre. Til syvende og sist er det én mann – Mark Zuckerberg – som styrer offentligheten mange steder, sier Folkvord.

Amnesty-rapporten skildrer det som en «faustisk pakt»: For å kunne utøve sine menneskerettigheter må man delta i offentligheten, men deltakelse i denne (digitale) offentligheten forutsetter at man underkaster seg et system som er tuftet på misbruk av de samme menneskerettighetene. 

– Du skjønner ikke at du blir diskriminert

– Det må være mulig å bruke Facebook og Google uten å underkaste seg dette overvåkningsregimet. De er ikke forretninger som alle andre, og man har ikke reelle alternativer, sier Folkvord.

Det må være mulig å bruke Facebook og Google uten å underkaste seg dette overvåknings-regimet

I boken som introduserte begrepet overvåkningskapitalismen for et bredere publikum skildrer forfatter Shoshana Zuboff noe som nærmer seg en absolutt makt. Digitale selskaper har etter hvert blitt så store, og avgrunnen mellom hva vi vet og hva som vites om oss har vokst seg enorm.

Systemet er så komplisert og virker på en så usynlig måte at det heller ikke vekker noen motvilje i befolkningen, mener Zuboff.

– Det er en analyse vi slutter oss til. Man kan for eksempel filtrere bort folk med minoritetsbakgrunn fra boligannonser. Men de dette rammer kjenner aldri til det. Du skjønner ikke at du blir diskriminert selv om du blir det, sier Folkvord.

Asbest, kvikksølv og overvåkningskapitalisme

Amnesty er ikke de eneste som har uttrykt bekymring. Også universitetslektor og ekspert på data og personvern Gisle Hannemyr er kritisk, og stiller seg langt på vei bak Zuboffs analyse.

Hannemyr mener overvåkningskapitalismen er en alvorlig trussel mot flere sentrale verdier som vi bygger vårt moderne samfunn på. Så alvorlig at det rett og slett bør forbys:

Universitetslektor Gisle Hannemyr ved institutt for informatikk, UiO.

– Det å gjøre persondata om til en råvare som kan gjøres om til atferdsprodukter er en så samfunnsskadelig virksomhet at vi ikke bør tillate den.

Han mener det er uholdbart å trekke paralleller til oljeindustrien eller laksenæringen og hevde at problemet skyldes mangel på reguleringer. Overvåkningskapitalismen utgjør en eksistensiell trussel for demokrati og ytringsfrihet, mener Hannemyr. Det kan man ikke bøte på med reguleringer.

– Det holder ikke at de betaler for privilegiet til å gjøre dette, for det har så store ringvirkninger på ytringsfrihet og demokrati. Det bør, på samme måte som det å produsere asbest eller spre kvikksølv rundt seg, forbys. Dette kolliderer med selve premissene for den borgerlige offentligheten.

Og uten en fungerende offentlighet kan man heller ikke utøve ytringsfrihet eller delta i demokratiet på en meningsfull måte, understreker IT-lektoren.

En oppskrift på atferdsendring

– Zuboff skildrer overvåkningskapitalismen som et énveisspeil. Hvordan tolker du det?

– Den som sitter bak speilet og observerer har mye mer makt enn den som sitter i andre enden og bare ser sitt eget speilbilde.

Det er klare likhetstrekk mellom Zuboffs énveisspeil og filosofen Jeremy Benthams «panoptikon» – et prosjekt som skulle forbedre fengselsvesenet i England på 1800-tallet.

Det bør, på samme måte som det å produsere asbest eller spre kvikksølv rundt seg, forbys

– På Benthams tid var fengsler mørke hull der man skulle råtne bort. Men Bentham sa: «Nei, nei, nei. Vi skal forbedre folk. Endre folks atferd». Hvordan skulle man endre atferd?

– Jo, man bygde et sentralt tårn, med fengselsceller rundt, utformet på en slik måte at fengselsvaktene alltid kunne se inn i alle cellene, mens de innsatte aldri visste hvorvidt de faktisk var under observasjon eller ikke. 

Dermed ville fangene alltid oppføre seg i tråd med reglene.

Les også: – Hele systemet er basert på ulovlig innsamling og spredning av data

– Kvern som maler lumske forbrytere om til ærlige mennesker

– Panoptikonet er, ifølge Bentham,  en kvern som maler lumske forbrytere om til ærlige mennesker, og fører til atferdsendring. Så er det den som har makt som definerer hva som er bra atferd, forteller Hannemyr.

Forskjellen med overvåkningskapitalismen er at det nå er private selskaper som bestemmer hva som er ønskelig atferd – ikke staten. Hannemyr er tydelig på at det er her – i atferdsmanipulasjon – de store pengene ligger. Men for at det skal være mulig, forutsettes massiv datainnsamling.

– Implikasjonen er at vi hele tiden føler oss observert, at det ikke lenger finnes noe privatliv eller noen privat sfære.

Den som har makt som definerer hva som er bra atferd

Og nettopp denne private sfæren står sentralt i Jürgen Habermas offentlighetsteori. Har man ikke noe privat rom til å trekke seg tilbake, så blir også ytringsfriheten skadelidende, ifølge IT-lektoren.

– Den private sfære er en viktig del av dannelsesprosessen. Den har stor betydning for det offentlige ordskiftet. Og den er en avgjørende friplass der ideer har tid til å modnes. Så overvåkningskapitalismen skader åpenbart vår følelse av privatliv, men indirekte også ytringsfriheten, demokratiet og alle de institusjonene som et moderne samfunn hviler på. Derfor er dette en ekstremt skadelig virksomhet, advarer Hannemyr.

Kommentarer (2)

Kommentarer (2)
Til toppen