AI-basert overvåking

EU vil forby kunstig intelligens brukt til vilkårlig overvåkning

Slik vil de unngå de verste fallgruvene og misbruk av teknologien. – Det blir ingen HAL 9000 eller Ultron på dette kontinentet.

EU vil bannlyse AI-basert overvåkning, med noen unntak.
EU vil bannlyse AI-basert overvåkning, med noen unntak. (Illustrasjonsfoto: Francois Lenoir, Reuters)

Slik vil de unngå de verste fallgruvene og misbruk av teknologien. – Det blir ingen HAL 9000 eller Ultron på dette kontinentet.

EU-kommisjonen er i ferd med å legge fram lovforslag som skal regulere bruken av kunstig intelligens (AI) på flere områder.

Brussel ønsker et forbud mot bruk av AI-baserte systemer til vilkårlig overvåkning av mennesker. Det fremgår av lekkasjer til flere medier, som sier at forslaget skal legges fram neste uke.

– Ingen HAL 9000

Slik ønsker de å unngå «det verste som kunstig intelligens kan gjøre», samtidig som EU fortsatt vil bevare teknologiens potensial for økonomisk vekst, melder Politico, som var først ute med nyheten.

Med andre ord: Det blir ingen HAL 9000 eller Ultron på dette kontinentet, konstaterer nettstedet med henvisning til noen av populærkulturens mest notoriske AI-skurker.

Forbudet EU jobber med vil blant annet omfatte «overvåkning og sporing av personer både i digitale og fysiske miljøer, så vel som automatisert innhenting og analyse av persondata fra ulike kilder», skriver nettstedet Euractiv som siterer fra utkastet.

Det er også lagt opp sikringstiltak og prosesser for forhåndsgodkjenning av bruken av kunstig intelligens i applikasjoner som i høy grad kan påvirke folks helse, sikkerhet, grunnleggende rettigheter og frihet, melder Reuters som også har fått en kopi.

Nei til sosial scoring

Ifølge nyhetsbyrået vil EU også bannlyse såkalt sosial scoring, altså en poengberegning av menneskers atferd.

Dette i lys av kritikk mot enkelte virksomheters misbruk av teknologien innen rekruttering, utlån av penger og andre viktige beslutninger som kan favorisere privilegerte grupper.

Kredittvurdering, biometriske identifikasjonssystemer og adgang til utdanningsinstitusjoner, asyl- og visumsøknader er andre såkalte høyrisiko-områder, der bruken av underliggende data i AI-systemer må være fordomsfri.

Brudd på bestemmelsene vil kunne medføre bøter på inntil 20 millioner euro eller opptil 4 prosent av et selskaps årsomsetning, altså på linje med bøtenivået ved brudd på personvernforordningen GDPR.

Gjør unntak for myndighetene

Lovutkastet setter EU i forsetet i arbeidet med å regulere en teknologi, som både vekker bekymring og begeistring.

Mens kritikere er betenkt over skadevirkninger ved AI brukt blant annet til overvåkning i autoritære regimer, så ser andre på teknologien som en driver for økonomisk vekst, påpeker Reuters.

Lovforslaget gjør angivelig unntak for systemer myndighetene selv tar i bruk innen bekjempelse av alvorlig kriminalitet. Bruk av ansiktsgjenkjenning på offentlige plasser, vil for eksempel kunne passere. Det samme gjelder bruk av kameraovervåkning koblet til kunstig intelligens for å lete etter terrorister, opplyser EU-kommisjonen, ifølge Politico.

EU-kommissær og visepresident Margrethe Vestager, som har det overordnede ansvaret for å gjøre Europa rustet for en digital tidsalder, skal legge fram lovforslaget onsdag i neste uke, den 21. april.

Les også

Kommentarer (6)

Kommentarer (6)
Til toppen