Når roboten har øyne, endrer vi adferd

Smiler du til roboten når den smiler til deg?

Se for deg at du har fysiske utfordringer som gjør at du har fått en robot-assistent til å hjelpe deg hjemme. Ville du ha kledd av deg foran en slik robot, selv om den ikke er koblet til internett? Ville du ha gjort det dersom den stod med ryggen mot deg eller gikk ut av rommet?

– Vi endrer adferd når vi blir sett. Dette gjelder også når vi vet eller mistenker at vi blir sett, forteller forsker Naomi Lintvedt ved Universitetet i Oslo.

Lintvedt er jurist og brenner for personvern. Derfor ville hun undersøke om regelverket sikrer personvernet godt nok i møte med roboter.

– Svaret på det er nei, sier hun kontant.

Vi føler oss sett, selv når den er skrudd av

Hun forteller at det er flere utfordringer knyttet til «robotens blikk». Vi føler oss sett, selv når den er skrudd av. Ifølge Lintvedt betyr det at roboten har makt over oss, til tross for at vi kan skru den av eller ødelegge den.

Utfordringene gjelder også selve sensorteknologien. Roboten kan vite hvor du er, og hva du gjør, til enhver tid. Lydsensorer kan vite hva du sier, og hvem du snakker med. Et varmekamera kan fange opp helseopplysninger som feber, men også seksuell opphisselse.

– De som jobber med robotikkforskning, har en litt forenklet forståelse for hva personvern er. Men også for hva som gjør folk ukomfortable, sier Lintvedt.

Hun forteller at robotforskere har byttet ut sensorer, som kamera, med mindre inngripende målere, slik som varmekamera. Tanken var å ivareta personvernet, men andre sensorer henter også inn mye informasjon. Derfor mener hun at det er viktig å ha god kunnskap om hva personvern innebærer.

Retten til å være alene blir utfordret

– Det fysiske personvernet innebærer retten til å være alene. Jeg skal ikke måtte tåle at en robot er til stede i et rom med meg hele tiden, forklarer Lintvedt.

Retten til å være fri for overvåkning strekker seg langt.

– Følelsen av å bli observert og å tro at du blir observert, faller også innunder personvern. Derfor er det i norsk personvernlov slik at bruk av falske overvåkingskamera også regnes som overvåking, sier hun.

Årsaken til dette er at overvåkningsutstyr som er avskrudd, eller som ikke virker, kan ha den samme effekten. Det gjør at vi føler oss sett, og dermed mister vi retten til privatliv.

Lintvedt forteller at følelsen av å bli sett gjør flere ting med oss: Vi blir mer selvbevisste, men det gir også en følelse av å bli vurdert. Å bli sett kan både føre til stolthet, men og skam.

Makten i andres blikk

De følelsene som oppstår i oss, kan gi den som observerer makt. Det betyr at forholdet menneske-robot kan likne på forholdet lege-pasient eller i noen tilfeller fangevokter-innsatt som i Foucaults konsept om panoptisme.

– Det handler om maktforholdet i ulike relasjoner. Det er et maktforhold som gjør at du opplever det annerledes enn en jevnbyrdig relasjon. Forskning viser at vi har et slags forhold til roboten, selv om de ikke er levende, forklarer Lintvedt. Vi tilskriver dem menneskelige egenskaper som de ikke har.

Det starter med at robotene får navn

Hun forteller om et eksperiment der folk skulle ødelegge en robot.

– Folk turte ikke å slå den med en hammer. De får dårlig samvittighet, forklarer hun.

Selv i forsøk der roboten påvirket folk negativt, fikk de dårlig samvittighet.

– Folk som hadde en hjemmerobot, men ikke likte å ha den i stua, fikk dårlig samvittighet av å sette den i et kott, sier Lintvedt. Tilstedeværelsen påvirker oss og vår relasjon til dem. Vi setter oss i en lavere posisjon.

– Folk har til og med sorgreaksjoner når robotkjæledyr går i stykker. Derfor er jeg opptatt av den relasjonen og maktubalansen, sier Lintvedt.

Menneskeliggjøringen av roboter starter allerede med at vi gir dem navn.

– Alle gir robotene sine navn. Det er veldig uskyldig. Vi menneskeliggjør dem. Vi har ikke navn på kaffetrakteren, men roboten har det. Det viser at vi behandler dem annerledes.

En robot som ser snill ut kan manipulere deg

Designet er ikke til å kimse av, ifølge Lintvedt.

– Det fysiske er vel så viktig. Noen roboter er designet for å være likendes. Eksperimenter viser at vi åpner oss mer for likendes roboter og at vi knytter oss nærmere til dem.

Hun forteller at dette kan gjelde terapiroboter for demente. Eksperimenter viser at et vennlig design kan gjøre at en dement person blir for glad i roboten og isolerer seg fra menneskelig kontakt.

– Søte roboter er mer behagelige, men det maskerer at det er en maskin. Derfor er det en balansegang å designe den riktig. Et design kan derfor være manipulerende ved at den kan være noe annet enn det du trodde den var. Det kan godt være en superdupersøt robot som overvåker deg.

Artikkelen ble først publisert på Titan (UiO).