Ny lov om anbefalingsalgoritmer er på plass i Kina. Slik kan det påvirke resten av verden

Nylig vedtok kinesiske myndigheter et nytt regelverk som fra 1. mars i år regulerer bruk av anbefalingsalgoritmer. Anbefalingsalgoritmer er algoritmer som fremmer innhold, for eksempel hvilken informasjon, bilder eller videoer som dukker opp for deg på sosiale medier eller i søketjenester.

Reguleringen omtales som verdens mest ambisiøse tiltak for å regulere kunstig intelligens, og vil legge bånd på Kinas mest populære og verdifulle teknologiselskaper. Reglene omfatter algoritmer som setter priser, kontrollerer søkeresultater, anbefaler videoer og filtrerer innhold.

I henhold til de nye reglene vil det være forbudt for selskaper å bruke personlig informasjon til å tilby brukere forskjellige priser for produkter og tjenester. De vil også bli pålagt å varsle brukere, og tillate dem å velge bort, at algoritmer brukes til å gi anbefalinger.

Regelverket, kjent som Internet Information Service Algorithmic Recommendation Management Provisions, ble utarbeidet av Cyberspace Administration of China, et organ som håndhever datasikkerhet, internettsensur og e-handelsregler.

Virksomheter som bryter reglene kan få bøter, bli utestengt fra å registrere nye brukere, bli fratatt lisenser eller få nettstedene eller appene sine stengt. Russell Wald ved Stanford's Institute for Human-Centered Artificial Inteligence bemerker overfor nettstedet Wired at reglene ikke vil gjelde for myndighetenes egen bruk av algoritmer eller data.

En annen del av forslaget krever at kinesiske selskaper unngår retningslinjer som fører brukere til «avhengighet eller overdreven forbruk».

Endringer i Tiktok

Allerede før reglene trådte i kraft, gjorde flere kinesiske selskaper endringer. Bytedance, selskapet bak Tiktok, begynte i oktober ifølge Wired å vise fem sekunders videoer som oppfordret brukere til å logge av etter at de har sett på lenge, for å dempe avhengigheten til den algoritmisk kuraterte feeden.

Selskapet har også introdusert funksjoner til Tiktok og andre apper som lar brukere velge bort å få personlig informasjon matet inn i anbefalingsalgoritmer. En undersøkelse fra et kinesisk medium fant at 26 av 28 populære apper introduserte måter for brukere å velge bort personlige anbefalinger i fjor, som svar på en annen lov om beskyttelse av persondata, skriver nettstedet.

– Langt mer ambisiøse enn EU og USA

Det kinesiske regelverket er langt mer ambisiøst enn noe som vurderes på nasjonalt nivå i USA, som generelt har tatt en hands-off tilnærming til kunstig intelligens.

Anbefalingsalgoritmer vil bli berørt av et kommende EU-lovforslag, Digital Services Act, men Norge og EU er også foreløpig mye mindre ambisiøse på dette feltet enn Kina, forteller Tobias Judin, seksjonssjef for internasjonal seksjon i Datatilsynet i Norge.

– Vi vet ennå ikke hvordan det endelige lovforslaget vil se ut, men i et tidlig utkast er det lagt opp til at noen aktører, såkalte veldig store plattformer, må informere om hovedparameterne i anbefalingsalgoritmene sine i tjenestevilkårene – som de færreste leser. De må også gjøre det mulig å velge bort anbefalingsalgoritmer basert på profilering, skriver han i en mail til Digi.no.

– Tar en fremtredende rolle

Reglene gjelder alle som bruker anbefalingsalgoritmer for å tilby internettjenester innenfor Kinas territorium. Reglene gjelder ikke virksomhet utenfor Kina, men arbeidet med med å regulere nye teknologier i et land eller en region har noen ganger hatt en merkbar effekt andre steder. EUs personvernforordning GDPR, som trådte i kraft i 2018 har påvirket selskapers retningslinjer over hele verden og lovgivning andre steder, inkludert i California, skriver Wired.

Kinas nye reguleringer vil sannsynligvis ha størst innflytelse i land som allerede har sterke bånd til Kina; ifølge en fersk akademisk analyse har rekkevidden til kinesiske teknologiselskaper bidratt til å forme politikk i land som Pakistan, skriver nettstedet.

– Hvordan vil kinesisk regulering på dette området kunne virke på virksomheter og reguleringer i resten av verden, og Norge?

– Kina er i ferd med å ta en fremtredende rolle i å regulere teknologiselskapene. Før het det seg gjerne at vi måtte være forsiktige med å regulere for mye, for da ville Kina vinne datakappløpet. Nå ser vi tvert om at Kina kommer med stadig mer lovgivning. Disse reglene, samt den nye, strenge personvernloven deres, er eksempler på dette, skriver Judin i Datatilsynet.

– Deler mange interesser

– Kina har et annet politisk klima enn oss, og det er nok viktig for myndighetene å ha større kontroll over data og innholdet på nett enn hva som er gangbart her hjemme. Dette kan nok til dels begrunne reguleringene, påpeker Judin.

Han forteller at noen av reglene også veldig vage, og at det kan gjøre det vanskelig å forutse hva som ligger i dem og hvordan myndighetene vil håndheve dem.

– Samtidig er det mange hensyn og interesser vi deler med Kina, og flere av de kinesiske reglene har som formål å beskytte folk mot skade. Vi ser at på noen områder er kinesiske nettbrukere i ferd med å få bedre vern enn vi har i Europa, skriver han, og fortsetter:

– Spørsmålet er derfor hvem som kommer til å sette standardene for beskyttelse av rettighetene våre på Internett. Det kan absolutt være at noen av Kinas regler vil smitte over på lovgivning i andre land. Vi vet at enkelte typer praksis på Internett har samfunnsskadelige effekter. Da ville det vært overraskende om bare Kina, men ikke Norge og EU, tok tak i problemene. Våre lovgivere har absolutt en jobb å gjøre på dette feltet, avslutter han.