Stemmestyrte assistenter truer privatlivet

Ett år etter at den tidligere politimannen Victor Collins ble funnet død i en jacuzzi (badestamp) i Arkansas, sto politiet fremdeles uten noen spor i saken.

Forløpet til den skjebnesvangre kvelden i november 2015 var noenlunde klart. Sammen med en kollega hadde Collins besøkt kameraten James Bates for en kveld med fotball, øl og vodka-shots.

Sent på kvelden valgte de tre mennene å sette seg i jacuzzien. Morgenen etter ble Collins’ lik funnet flytende i badestampen med ansiktet ned. Om dødsfallet var mord – slik påtalemyndigheten mener – eller en uheldig kombinasjon av alkohol og bading, er ennå ikke avgjort.

Men i november fant aktoratet et nytt vitne i saken. Og det håper man nå kan hjelpe til med å løse saken. Vitnet er Amazons digitale assistent Alexa.

Hjemme hadde nemlig James Bates en Echo-enhet – en mikrofon og høyttaler med innebygd Alexa. Alexa kan på grunnlag av stemmen din slå lyset av og på, sette på musikk, svare på spørsmål eller gi deg værmeldingen.

Men det kan hun naturligvis bare hvis hun lytter til det du sier. Og spørsmålet er altså om Alexa har hørt noe på den skjebnesvangre natten – noe som kan bringe saken nærmere en oppklaring.

Assistenter som Amazons Alexa, Google Assistant, Apples Siri og Microsofts Cortana er konstruert slik at de til alltid lytter etter kommandoer. Ifølge analysehuset Gartner vil «always-on» stemmestyrte e-butlere erstatte en stor del av den samhandlingen med elektronikken som i dag skjer via tasting eller klikking.

Men som mordsaken fra Arkan­sas viser, kan elektronikk som alltid er på gi store konsekvenser for privatlivet vårt og muligheten til å velge bort overvåkning.

– Den virkelig store utfordringen blir det som vi oppfatter som vår personlige sfære, forteller Fred Johnsen, som er konsulent ved Peak Consulting.

Les også: Derfor er din fremtidige digitale butler en kvinne (version2.dk)

– Hvis jeg bruker Facebooks M eller Alexa fra Amazon, gir jeg fra meg en eller annen form for sikkerhet og integritet til disse store selskapene.

Slik det ofte er med digitale tjenester, er nytteverdien deres proporsjonal med hvor mange aspekter av livet ditt de får adgang til. Hvis Alexa skal handle for deg, må assistenten kobles til Amazon-kontoen din. Hvis den skal undersøke hvor mange penger du brukte på byen i går, må den kobles til banken.

Og hvis den skal veilede deg om mosjon, bør den helst ha adgang til data fra et trenings-armbånd.

– Dette er ting som jeg i bunn og grunn ikke har lyst til å gi adgang til, bemerker Fred Johnsen.

Digitalisering av samtalen

På noen områder har bedrifter som Google og Facebook allerede et detaljert bilde av hva de fleste brukerne interesserer seg for, og hva de driver med.

Det danske bladet Ingeniøren har i de siste ukene skrevet om at Google oppbevarer data om søkene dine i årevis. Og at Facebooks app deler data med 47 ulike firmaer, hvorav mange sannsynligvis er ukjente for den enkelte brukeren.

Her er du som bruker kanskje fristet til å trekke på skuldrene om disse digitale assistentene. For hva er det de kan høre om deg som it-selskapene ikke allerede vet? Ikke desto mindre representerer «always on»-assistentene en endring av den overvåkningen som vi utsettes for.

– Når du skriver på en pc, vet du at det du taster eksisterer digitalt, sier Brit Ross Winthereik, som er lektor ved det danske IT-Universitetets Institut for Business IT, og fortsetter:

– En samtale i et rom er ikke noe som vi normalt oppfatter som data eller som noe som er digitalt. Det er et eksempel på at overvåkningen blir mere gjennomgripende.

Brit Ross Winthereik sammenligner det med en posisjoneringslogg; tjenester som Google og Facebook som også kontinuerlig lagrer data om sine brukere.

– Du forventer ikke å bli sporet av telefonen din uten at du foretar deg noe som helst. Men det blir du. Så det er endringer i det som skjer. Og det endrer på hva som er en del av en digital infrastruktur, og hva som ikke er det.

Fordi det nettopp er de store it-gigantene som kjemper om stillingen som din nye digitale assistent, vil trenden bare forsterke den sentraliseringen av brukerdata som har oppstått rundt it-selskapene, og øke den kunnskapen selskapene har om brukerne.

På den ene siden kan brukere slippe å ha utallige apper som har hver sin eier, og som gjør ulike ting med de dataene som samles inn, påpeker Fred Johnsen.

– Men det er også it-kjempene som kommer til å eie de virtuelle agentene som vi kommer til å bruke i framtiden. De vil få en enda større markedsdominans enn de hadde tidligere. På godt og vondt.

Programvare og politikk

De digitale assistentene fungerer stort sett ved konstant å lytte etter det såkalte «wakeword», altså «vekkeordet» som vekker enheten til live – for eksempel «Hei Siri», «Alexa» eller «OK, Google».

Det at enheten ikke lytter før den hører et ord, kan virke som en grei forsikring. Den store forskjellen er at før enheten blir vekket, foregår all dataanalyse lokalt på enheten. Når den gjenkjenner vekkeordet, sendes lyden til skyen og dermed til it-kjempens database.

Der er derfor også ganske dårlige sjanser for at Alexa har fanget opp noe som kan være til hjelp i den amerikanske mordsaken. Amazon har også motsatt seg å måtte utlevere data til myndighetene, og avviste det i første omgang med henvisning til at rettskjennelsen var for generell.

Først i forrige uke – da den anklagede James Bates ga en spesifikk tillatelse – ble dataene fra Alexa utlevert.

Selv når data har blitt sendt til skyen, har man likevel som bruker en viss kontroll over lydfilene. I nettgrensesnittet til Alexa kan du høre de kommandoene du har gitt assistenten. Derfra kan du også, hvis du vil, slette utvekslinger med Alexa. Men siden tjenesten prøver å lære seg selv å forstå stemmen din best mulig, går dette ifølge Amazon ut over hvor godt Alexa fungerer.

«Til tross for de designmessige forholdsregler som bedriftene har tatt, skaper det en trussel mot privatlivet å installere en mikrofon som stadig er på i hjemmet,» understreker Jay Stanley – som er senior policy analyst ved den amerikanske borgerrettsorganisa­sjonen ACLU i en kunngjøring.

«Så snart maskinvaren er slått på og koblet til internett, legger du tilliten din hendene på to ting som dessverre er mindre enn pålitelige i disse dager: programvare og politikk.»

Dermed må vi stole på at programvaren fungerer slik som den er beskrevet. Siden det er snakk om proprietær programvare som er lukket for omverdenen, er dette nettopp et spørsmål om tillit.

Det er for eksempel uvisst om FBI har fått tilgang til å avlytte personer via en enhet som Amazons Echo. Da det amerikanske nettmagasinet Giz­modo prøvde å få innsikt i dette, var svaret at FBI hverken kan bekrefte eller avkrefte slike aktiviteter.

Ved siden av programvaren må vi stole på at lover og regler overholdes og etterleves, slik at data ikke oppbevares i lengre tid enn nødvendig, ikke deles med utenforstående og oppbevares sikkert.

I 2015 fikk Samsung kritikk for nettopp datapolitikken rundt selskapets stemmestyrte TV. I service­vilkårene stod det den gangen følgende:

«Vennligst vær oppmerksom på at hvis det du sier inneholder personlig eller annen følsom informasjon, vil den informasjonen også finnes i de oppfangede dataene og bli sendt til en tredjepart via din bruk av stemmegjenkjennelsen.»

Teksten har nå blitt omskrevet, men poenget består: Hvis den stemmestyrte enheten din er slått på, tar den ikke bare opp kommandoen din, men også eventuelle samtaler som skjer bakgrunnen.

Omsider kommer Jay Stanley til poenget med at Alexas, Siris og Googles innebygde personvern bare fungerer i den grad enhetene svært nøyaktig kan skjelne vekkeordene fra all annen tale.

I Ingeniørens test av Alexa har vi – som andre brukere – opplevd at assistenten plutselig bryter inn i en samtale fordi den tror at den har hørt vekkeordet sitt i all kontorstøyen.

Ofres på kundetilfredshetens alter

Bedrifter som Apple, Amazon og Google har alle rykte på seg for å drive en forsvarlig datapolitikk og for å ha den aller beste datasikkerheten. Men de er langt ifra de eneste selskapene som nå og i framtiden vil tilby elektronikk som lytter.

I februar ble brukere av en «intelligent» bamse av merket CloudPets utsatt for en lekkasje som har kompromittert tusenvis av kodeord. Lekkasjen kan potensielt gi uvedkommende tilgang til opptak der barn deler tankene sine med bamsen.

– Jeg tror at vi i framtiden vil se noen ganske kjedelige sikkerhetsbrister i forbindelse med disse teknologiene, sier Fred Johnsen, og legger til:

– Men som forbrukere har vi en tendens til å ha kort hukommelse, og vi kommer antakelig å oppleve at brukeropplevelsen blir uendelig mye bedre. Og så regner jeg med at flertallet ender opp med å ville leve med den risikoen som finnes innen sikkerhet og privatliv – den ofrer vi på kunde­tilfredshetens alter.

Brit Ross Winthereik er enig:

– Vi vet at vi har vansker med å være kritiske overfor elektronikk når den hjelper oss. Jeg er ikke skeptisk overfor telefonen, fordi den fungerer og hjelper meg. De blir en del av livet til folk, hvis de virker.

Denne artikkelen er levert av version2.dk/Ingeniøren.

Les også: Google Home sender uoppfordret reklame inn i stua di (version2.dk)