Mener Microsoft tåkelegger om Copilot

Microsoft har begynt å sluse norske KI-oppgaver til datasentre i USA, Canada og Australia. Det er en slags avlastning kalt «flex routing» som nå er aktivert standard for mange kunder.

Etter at Microsoft ga sin framstilling, får vi nå en nyansering fra spesialrådgiver Eirik Gulbrandsen i Datatilsynet.

I Europa er det Irlands datatilsyn som først og fremst fører tilsyn med Microsoft, fordi de har sitt europeiske hovedkontor i Irland.

– Vi er kjent med innføringen, men Datatilsynet har per nå ikke gjort noen formell vurdering, sier Gulbrandsen til Digi.

«Suverenitetsvasking»

Han gir likevel støtte til analysen fra IT-rådgiver og rettssakkyndig John Nielsen. I et I et innlegg på Linkedin har Nielsen advart mot innføringen av «flex routing». Han beskriver praksisen som «sovereignty washing» eller suverenitetsvasking.

– Jeg følger John Nielsens argumentasjon. Han oppsummerer det godt. Microsoft snakker om datasuverenitet på flere lag, som europeiske datasentre og ansatte, men det siste laget handler om juridisk risiko og jurisdiksjon, sier Gulbrandsen.

Han mener selskapet bevisst tåkelegger realitetene ved å vanne ut begrepene.

– Microsoft vet utmerket godt forskjellen på ekte juridisk datasuverenitet og bare en reduksjon av risiko. Så det er en form for suverenitetsvasking. Man får ikke ekte digital suverenitet så lenge det er amerikansk jurisdiksjon som gjelder for eieren av datasenteret. Her opplever jeg nok at Microsoft balanserer ordvalgene sine.

Utfordrer Microsoft-lovnad

Microsoft fronter tungt en forpliktelse om at europeiske data skal bli værende i Europa gjennom kundeløftet «EU Data Boundary». I en tidligere uttalelse til Digi skilte Microsoft Norge mellom hvor data lagres og hvor de behandles.

– Jeg må presisere at endringen er begrenset til modellinferens og lagring av tilhørende pseudonymiserte data, sa kommunikasjonsdirektør Cornelia Bjørke-Hill i Microsoft Norge.

Hun påpekte at alle øvrige forpliktelser knyttet til EU Data Boundary og dataresidens i Microsoft 365 fortsetter å gjelde uendret.

Skillet mellom lagring og selve regneoppgavene i skyen fremstår som helt sentralt. Men selv om filene dine ligger i ro i et europeisk datasenter, må informasjonen «flyttes» for at den kunstige intelligensen skal kunne jobbe med den, argumenterer Gulbrandsen i Datatilsynet.

– Microsoft legger opp til kryptering både «at rest» og «in transit», men i det øyeblikket dataene behandles, må de eksistere i klartekst i minnet. I henhold til definisjonene i personvernforordningen (GDPR) er det ingen forskjell på lagring og behandling, sier han.

Å sende data ut for modellinferens – altså for behandling på grafikkprosessorer (GPU) utenfor Europa – er å sende data ut av Europa. Det er en overføring som skjer, konstaterer Gulbrandsen.

– Microsofts påstand om at dette skjer i full overensstemmelse med europeisk regulering, får stå for deres regning, sier han.

– Burde vært «opt-in»

En av de mest omstridte sidene ved «flex routing» er at funksjonen er aktivert som standard for mange små og mellomstore bedrifter.

– Ja, jeg er enig i at det er bekymringsfullt. En utfordring med denne typen skytjenester er at det stadig kommer endringer som kan være vanskelig å følge med på. Selv store aktører i Norge opplever det som vanskelig og ressurskrevende å følge med på hvordan tjenestene endrer karakter, sier spesialrådgiveren.

Konkret viser han til sandkasseprosjektet tilsynet hadde med NTNU om Microsofts KI-løsning Copilot for kontorpakken Office. En av lærdommene var at det krever mye ressurser å ha kontroll.

– Hvis kunder har inngått en avtale med Microsoft med en opsjon om at data ikke skal forlate Europa, og Microsoft nå skrur dette på som «opt-out», så har man i praksis gjort en endring i avtalen. Det riktige her hadde vært at dette var en «opt-in»-løsning.

Ingen magisk bryter

Microsoft fremhever at det kun er «pseudonymiserte» data som lagres utenfor EU i forbindelse med KI-behandlingen. Gulbrandsen advarer mot å tro at dette i seg selv fjerner risikoen.

– Pseudonymisering betyr at man fjerner identifiseringskomponenten i en personopplysning, men tar vare på en nøkkel. For en tredjepart uten tilgang til nøkkelen skal informasjonen fremstå som pseudonymisert slik at den ikke kan knyttes til en bestemt person.

Men pseudonymisering er ikke «null eller en». Det er grader av det, konstaterer Gulbrandsen.

– Det er ingen magisk bryter. Det Microsoft snakker om her, er metainformasjonen. Måten det gjøres på, avgjør om det er et godt tiltak eller ikke. Det avhenger av hvordan pseudonymiseringen er satt opp.

Risiko for amerikansk innsyn

– Når data behandles i USA, blir de teknisk sett tilgjengelige for amerikanske myndigheter. Gjelder dette også ved modellinferens?

– Det er et komplisert spørsmål. Vi har ikke full oversikt over hvilke metoder amerikanske myndigheter kan bruke for å hente ut informasjon i selve behandlingsøyeblikket, men teknisk og teoretisk sett er det ikke umulig. Hvordan de eventuelt gjør dette, har vi ingen formening om nå.

Ansvaret hviler på kunden

Han minner om at det juridiske ansvaret uansett ligger hos den norske kunden, selv om Microsoft endrer standardinnstillingene – slik at data eller innhold til modellinferens sendes ut av EU/EØS-området ved stor pågang.

– Ansvarsforholdet er enkelt og greit. Det er norske virksomheter som selv er ansvarlige for å følge med på dette. Det er ikke forbudt å bruke amerikanske skytjenester.

Gulbrandsen minner om at EU-US Data Privacy Framework, en juridisk avtale mellom EU og USA, åpner for lovlig overføringer av personopplysninger.

– Det viktige er at man som kunde har kontroll. Hvis man har inngått avtaler om å lagre i Europa, og dette endres på kort varsel, er det bekymringsfullt. Vi hadde ønsket oss en mer oversiktlig prosess rundt dette, sier Gulbrandsen om den endringen Microsoft nylig har gjort ved innføring av såkalt «flex routing».