Forskeren bak Cambridge analytica–metode advarer om konsekvensene av egen forskning

Michal Kosinski var den første som viste at man kan lese personlige detaljer ut fra Facebook-likes, og har nylig vist at man kan lese seksuell legning ut fra stillbilder av ansikter. Samtidig advarer han om konsekvensene av resultatene sine.

Michal Kosinski sto på scenen under Sopra Sterias «Power of sharing»-konferanse forrige uke, for å fortelle om de potensielle konsekvensene av forskningen han driver med.
Michal Kosinski sto på scenen under Sopra Sterias «Power of sharing»-konferanse forrige uke, for å fortelle om de potensielle konsekvensene av forskningen han driver med. (Foto: Kristin Jacobsen/Sopra Steria)

Michal Kosinski var den første som viste at man kan lese personlige detaljer ut fra Facebook-likes, og har nylig vist at man kan lese seksuell legning ut fra stillbilder av ansikter. Samtidig advarer han om konsekvensene av resultatene sine.

Hei, dette er en Ekstra-sak som noen har delt med deg.
Lyst til å lese mer? Få fri tilgang for kun 235,- i måneden.
Bli Ekstra-abonnent »

OPERAHUSET, OSLO (digi.no): Michal Kosinski, forsker og psykolog ved universitetet i Stanford, er mannen enkelte mener var den bakenforliggende årsaken til Cambridge analytica-skandalen, Brexit og Trumps presidentskap.

Vel – ikke direkte, og ikke frivillig. Han jobbet aldri for Cambridge analytica, og hadde aldri noe med Brexit eller Trump å gjøre. Men i 2012 publiserte han, sammen med to andre forskere, en forskningsrapport som skulle vise seg å ha store konsekvenser.

«Jeg bygde ikke bomben. Jeg bare viste at den eksisterer», har Kosinski tidligere uttalt i et intervju med det sveitsiske Das Magazin (oversatt til engelsk av Vice).

Forrige uke sto han på scenen under Sopra Sterias konferanse «Power of sharing» og forklarte hvor alvorlig skade «bomben» han viste til kan volde.

Leser personlighet av «likes»

Da Kosinski var student ved Cambridge university drev han og en medstudent Facebook-applikasjonen «MyPersonality». Her svarte brukerne på forskjellige spørsmål om personlighetstrekk, blant annet hentet fra den anerkjente «femfaktormodellen», og fikk en slags personlighetsrapport i retur. 

Applikasjonen ble svært populær, og det tok ikke lang tid før de to studentene satt på en enorm database med personlighetsprofiler koblet sammen med Facebook-profiler.

Kosinski ble interessert i korrelasjonene mellom personlighetstestene og dataene fra Facebook-profilene.

– Jeg startet et veldig enkelt eksperiment. Jeg fikk samtykke fra 60 000 frivillige til å samle informasjon om deres «likes» på Facebook, fortalte Kosinski fra scenen.

Denne informasjonen ble satt sammen med svarene i «MyPersonality»-appen. Deretter lagde Kosinski og teamet hans statistiske modeller som kunne forutsi personlige detaljer ut fra Facebook-«likes».

Michal Kosinski på scenen under Sopra Sterias «Power of sharing»-konferanse.
Michal Kosinski på scenen under Sopra Sterias «Power of sharing»-konferanse. Foto: Sarah McDonald Gerhardsen

– Men hvor nøyaktig blir dette bildet? La oss sammenligne nøyaktigheten til algoritmen med menneskelige vurderinger. Vi ba folks venner og familie om å fylle ut personlighetstester på deres vegne, forklarte Kosinski under sitt foredrag i Oslo.

Målet var å se hvor mange «likes» algoritmen trengte for å gjette dine svar på personlighetstester bedre enn de som kjenner deg godt.

– For å oppnå like korrekte svar som kollegaene dine i en slik test, trenger algoritmen bare rundt 10 av dine Facebook-«likes». For å få like god nøyaktighet som venner og familie, trenger den 100-150 «likes». Og for å kunne vurdere din personlighet bedre enn din egen ektefelle, trenger den omtrent 300 tilfeldige «likes».

For eksempel kunne modellen med 88% nøyaktighet avsløre menns seksuelle legning, med 95% nøyaktighet skille afroamerikanere fra hvite amerikanere, og med 85% nøyaktighet skille republikanere fra demokrater.

Cambridge analytica

I det nevnte intervjuet med Das Magazin fortalte Kosinski at han en stund senere fikk en henvendelse fra et selskap som var interessert i forskningen hans, og ønsket tilgang til «MyPersonality»-databasen.

Kosinski, som allerede hadde sett og advart mot måtene dette kunne misbrukes på, fikk en dårlig følelse, og avslo tilbudet. Det skulle vise seg at tilbudet hadde kommet fra Strategic Communication Laboratories (SCL) – som senere startet selskapet Cambridge analytica.

Etter den påfølgende skandalen rundt Cambridge analytica, der det ble avslørt at selskapet hadde samlet inn data fra millioner av Facebook-profiler uten samtykke, er det lett å se for seg hvilken metodikk som ble brukt.

Både Donald Trump og Brexit-kampanjen «Leave.EU» benyttet seg av Cambridge analyticas metode for svært målrettet politisk Facebook-reklame.

Leser homofili på ansiktet

Men det er ikke bare de med en aktiv og utfyllende Facebook-profil som står i fare for å få avlest personlige detaljer de ikke oppgir frivillig. Under «Power of sharing»-konferansen fortalte Kosinski også om sitt senere forskningsarbeid på ansiktsgjenkjenning.

– Vi mennesker vurderer personlige trekk hos andre ut fra ansiktene deres hele tiden. Et eksempel er kjønn – de fleste kan vurdere kjønnet ditt ut fra ansiktet ditt med stor nøyaktighet.

– Hva om personligheten din vises på ansiktet ditt like mye som kjønnet ditt, bare at mennesker ikke har utviklet evnen til å lese det?

 I laboratoriet sitt ved universitetet i Stanford har Kosinski for eksempel tatt bilder av flere hundre ansikter, og utviklet en algoritme som kan skille mellom introverte og ekstroverte, bare ut fra bilder av ansiktene deres.

– Ok, hva så? Så får vi bare tåle litt ubehagelig markedsføring og politisk reklame, sier vanligvis folk. Men det er ikke så enkelt.

Michal Kosinski på scenen, med komposittbilder på storskjerm. Foto.
Kosinski viste frem to komposittbilder av 100 homofile og 100 heterofile menn. Ifølge hans forskning kan en algoritme avgjøre forskjellen ved hjelp av fem bilder av et ansikt. Foto: Sarah McDonald Gerhardsen

På skjermen viser han frem to komposittbilder, og forklarer at de består av hundre ansikter hver fra amerikanske menn som har ett spesifikt trekk som skiller dem: Bildet til venstre består av ansiktene til hundre homofile menn, mens bildet til høyre består av ansiktene til hundre heterofile menn.

– Det viser seg at ved hjelp av fem stillbilder av et mannlig ansikt, kan en enkel algoritme skille mellom homofile og heterofile menn med en nøyaktighet på over 90%.

– Hvis du kombinerer det med et kart over hvor i verden samfunnet vil henrette deg hvis de finner ut at du er homofil, så understreker det poenget med at personvern ikke bare handler om å unngå litt ubehagelig markedsføring: For mange mennesker er det bokstavelig talt forskjellen mellom liv og død.

Kommentarer (0)

Kommentarer (0)
Til toppen