Frykter ansiktsgjenkjenning i KI-briller

Forrige uke avslørte Wired at Meta i det stille hadde bygget inn kode for en ansiktsgjenkjennings-funksjon kalt Name Tag, før koden ble fjernet kort tid etter at den ble oppdaget.

Koden skal aldri ha vært aktivert for brukere, men avsløringen har likevel utløst sterke reaksjoner – også i Norge.

Flere advarer om at KI-briller med ansiktsgjenkjenning kan bli et nytt overvåkningsverktøy, melder Morgenbladet.

Frykter overvåkning

Meta har lenge utforsket muligheten for å bygge ansiktsgjenkjenning inn i sine KI-briller.

Teknologien fungerer ved at brillenes kamera fanger ansikter i sanntid, gjør dem om til biometriske avtrykk og matcher dem mot en database.

Allerede i februar skrev New York Times om planene til Meta som skal la brillene identifisere og innhente informasjon om folk i nåtid.

Planene har møtt sterk kritikk.

Sikkerhetsforsker Cooper Quintin omtalte teknologien som en «desentralisert overvåkningsmaskin» overfor Wired, mens kommentator Katie Martin i Financial Times døpte brillene «pervobriller».

Da Wired konfronterte Meta med koden de hadde funnet, avviste selskapet at de hadde bygget et slikt system.

Ønsker strengere regulering

I dag har norske myndigheter få klare hjemler til å stanse selskaper som Meta fra å lansere slike funksjoner i Norge, skriver Morgenbladet.

Høyrepolitiker Tage Pettersen sier avisen at EUs personvernforordring (GDPR) regulerer biometriske data strengt.

Samtidig peker han på at lovverket ikke er tilpasset en virkelighet der slik teknologi kan bæres av hvem som helst i et par briller.

Derfor ønsker han strengere regulering og større handlingsrom for Datatilsynet.

Vanskelig å stanse

Å hindre bruken av ansiktsgjenkjenning er letter sagt en gjort, forklarer direktør i Datatilsynet Line Coll til Morgenbladet.

Årsaken er at mye av bruken faller utenfor tilsynets mandat.

– Når du og jeg setter brillene på nesen, er vi privatpersoner. Og GDPR regulerer ikke det vi privatpersoner gjør, sier Coll.

Hun understreker samtidig at dette ikke betyr at alt er lov. Privatpersoner kan fortsatt bryte loven dersom de deler opplysninger om andre, for eksempel i sosiale medier.

Likevel mener Coll at dagens regelverk ikke er godt nok tilpasset teknologien. Hun etterlyser en større debatt om hvordan dette bør reguleres.

Ser mot EU

En mulig løsning kan imidlertid være på vei.

Forbrukerrådet mener EUs kommende KI-forordning kan gi Norge et nytt verktøy for å regulere teknologien.

Fagdirektør Finn Myrstad peker overfor Morgenbladet på at forordningen åpner for at medlemsland kan innføre strengere nasjonale regler for biometrisk fjernidentifisering.

Det kan omfatte langt mer enn bare ansiktsgjenkjenning. Også teknologier som identifiserer personer basert på for eksempel ganglag eller andre kroppslige mønstre kan falle inn under definisjonen.

Forbrukerrådet ønsker derfor et forbud mot kommersiell bruk og salg av slik teknologi, enten den brukes i smartbriller eller I overvåkningskameraer.

Også på Stortinget er flere åpne for strengere regulering. Overfor Morgenbladet sier Arbeiderpartiets June Trengereid Gruner at de er åpne for å endre regelverket dersom det er nødvendig.