500 eksperter sier nei til EUs overvåkingsforslag

Hensikten er å bekjempe spredning av overgrepsmateriale, men kritikerne frykter at tiltaket i praksis vil bety slutten på kryptert kommunikasjon.

EU-kommisjonen presser nå på med det omstridte lovforslaget kjent som «Chat Control», som pålegger digitale plattformer å analysere alle meldinger, bilder og videoer sendt mellom brukere i Europa.

I et åpent brev som publiseres i dag, 9. september, tar over 500 forskere og eksperter innen cybersikkerhet kraftig til orde mot forslaget.

Ekspertene advarer

Fagfolkene påpeker at det ikke finnes noen teknologisk måte å gjennomføre masseovervåkning på – uten å samtidig svekke sikkerheten.

Derimot vil innføringen skape «enestående» muligheter for overvåkning, kontroll og sensur, og med en iboende risiko for formålsutglidning og misbruk av mindre demokratiske regimer, ifølge oppropet.

– Det er ingen tvil om at dette forslaget fullstendig undergraver sikkerhets- og personvernvernet som er avgjørende for å beskytte det digitale samfunnet, skriver de.

Selv om lovforslaget er rettet mot EU-land, kan det få direkte konsekvenser for Norge gjennom EØS-avtalen. Dermed kan også nordmenn risikere å få sine private meldinger gjenstand for kontinuerlig analyse.

– Fungerer ikke

Tjerand Silde er førsteamanuensis i kryptologi ved NTNU, institutt for informasjonssikkerhet og kommunikasjonsteknologi.

Han forteller til Digi hvorfor han har valgt å engasjere seg i saken, inkludert å signere det åpne brevet til EUs toppolitikere.

– Jeg engasjerer meg fordi personvern er en grunnleggende rettighet vi bør ta vare på. Forslaget fra EU-kommisjonen bryter med det vi mener er retten til personvern, samtidig som det berører vårt fagfelt direkte.

Forslaget legger opp til at teknologiske løsninger skal brukes til å overvåke og analysere meldinger, bilder, videoer og samtaler på individnivå.

– Målet er å stoppe deling av materiale knyttet til overgrep mot barn, noe vi alle støtter. Men metodene som foreslås, er svært unøyaktige. Selv politiets tester gir mange falske positive.

Forslaget om å oppdage nytt materiale med maskinlæring eller kunstig intelligens har heller ikke vist seg å fungere, påpeker Slide.

– Resultatet blir mange feiltreff, stort manuelt arbeid og alvorlige personvernbrudd for innhold som ikke har noe med overgrep å gjøre.

Meldingsapper, slik vi kjenner dem i dag, kan bli forbudt

– Noen vil kanskje hevde at det nye lovforslaget ikke representerer et stort skifte, siden mye allerede kan overvåkes av E-tjenesten og andre organer. Hva er ditt syn på dette?

– Det betyr nok en del i praksis. Veldig mange bruker i dag tjenester som Signal, Whatsapp og andre ende-til-ende-krypterte tjenester. Slike vil i praksis bli gjort ulovlige dersom forslaget går igjennom. Det vil ha en stor effekt på nordmenn og europeiske borgere, sier Silde.

Signal har for øvrig truet med å trekke seg ut av det europeiske markedet dersom loven blir vedtatt.

Samfunnet må bekjempe alvorlig kriminalitet, men samtidig ivareta personvern og ytringsfrihet. Er det mulig å finne en balanse, og kan teknologi bidra til å løse disse dilemmaene?

– Balansen kan oppnås ved målrettet overvåkning av personer eller grupper med konkrete mistanker. Politi og etterretning har allerede kraftige verktøy for dette. Problemet med lovforslaget er masseovervåkningskomponenten, der alle meldinger leses, uavhengig av om avsender eller mottaker er mistenkt.

Kan maskinlæring eller såkalte personvernbevarende beregninger, blant annet modeller trent på krypterte data, løse dette dilemmaet på en eller annen måte?

– Spørsmålet er godt, men selv med krypterte data ville analysene hatt samme problemer. Algoritmer kan ikke oppnå den nøyaktigheten som kreves, og feilratene vil fortsatt være høye.

Bruk av personvernbevarende teknologier ville ikke løst utfordringen og ville vært komplisert og ressurskrevende å implementere i praksis, mener førsteamanuensis Silde.