Camilla Guldahl Cooper (PhD i krigens folkerett, Forsvarets høyskole) og Leonora Onarheim Bergsjø (PhD i etikk, Universitetet i Oslo).
Camilla Guldahl Cooper (PhD i krigens folkerett, Forsvarets høyskole) og Leonora Onarheim Bergsjø (PhD i etikk, Universitetet i Oslo). (Foto: Forsvarets høyskole/UiO)

KOMMENTAR: Kunstig intelligens

Hvordan kan AI reguleres allerede nå?

I 2019 er det 70 år siden Genèvekonvensjonene fikk tillegg om beskyttelse av sivile (12. august 1949). Kan vi beskytte verdens befolkning og omgivelser under kampen for å utvikle AI, på samme måte som Genèvekonvensjonene beskytter mennesker i krig?

  • Debatt
  • Camilla Guldahl Cooper (PhD i krigens folkerett, Forsvarets høyskole)
  • Leonora Onarheim Bergsjø (PhD i etikk, Universitetet i Oslo)

 Kappløpet for ny teknologi er selvfølgelig ikke krig, men det finnes noen fellestrekk som gjør spørsmålet aktuelt. I en tid hvor fler og fler viktige valg i menneskers liv er tatt av digitale nasjonale og multinasjonale stormakter, er det et viktig spørsmål når tiden er inne for regulering.

Digitale stormakter mot hverandre

Det pågår en gjennomdigitalisering av samfunnet vårt, og det skjer store omveltninger og endringer som påvirker alle. Ny teknologi påvirker livene våre enten vi vil eller ikke. Mye av utviklingen har hittil dreid seg om å «sette strøm på papir». Nå er trenden å søke mer innovative digitale løsninger. Det kan transformere samfunnet på dyptgripende måter.

Hvordan vil samfunnet bli? Foreløpig er det Kina og USA som leder det digitale kappløpet. Store mengder data samles inn under helt andre rammer enn den beskyttelsen EUs personvernsforordning (GDPR) gir. Innsamlede data brukes til opptrening av algoritmer, tilpassing av innhold, som påvirker hvilke informasjon vi som forbrukere får.

Det er ikke gitt at de tekniske løsningene som utvikles vil støtte opp om menneskets rett til frihet, privatliv og andre rettigheter spesifisert i FNs Verdenserklæring for menneskerettigheter.

Risikofylt innovasjon

Til innovasjon er det knyttet risiko. Når vi finner opp noe nytt er det vanskelig å ha oversikt over alle anvendelsesområder, faktisk bruk og mulighet for misbruk.

Da Facebook-grunder Mark Zuckerberg forsvarte selskapet etter Cambridge Analytica-skandalen, hvor brukeres personlige data var misbrukt for å manipulere velgere, argumenterte han nettopp med at innovasjon innebærer risiko. Han sa til Kongressen at når vi gjør noe som aldri før har vært gjort i menneskets historie er det umulig ikke å trå feil. I en kronikk i 2019 etterlyste Zuckerberg at styresmaktene kommer mer på banen med regulering.

Problemet er ikke at myndighetene ikke vil på banen. I mange land, inkludert Europa og Norge, spør politikerne seg om og hvordan de kan regulere ny teknologi. Er det mulig å forebygge misbruk uten å ødelegge for de fantastiske mulighetene teknologien også kan føre med seg?

Behov for beskyttelse

Endringene digitaliseringen vil medføre er uforutsigbare. Alt skjer i et så stort tempo at det er vanskelig å ha et oppdatert lovverk.

Mange grupper trenger særlig beskyttelse, og dette gjelder ikke minst i den digitale verden. Teknologi kan bidra til at alle kan delta på sine vilkår uavhengig av funksjonsevne, men teknologi kan også misbrukes til å diskriminere og ekskludere.

 «Genèvekonvensjoner» for fremtiden

Kanskje vi kan lære noe fra Genèvekonvensjonene? Konvensjonene er blant få dokumenter som er ratifisert av alle land i hele verden.

Genèvekonvensjonene fokuserer på beskyttelse av mennesker under krig, og spesifiserer rettighetene til blant annet sivile, stridende, sanitetspersonell, sårede soldater, og krigsfanger. Siden den første konvensjonen ble til i 1864 har det kommet mange tillegg, alle utarbeidet etter nye kriger og overgrep. Særlig interessant i sammenheng med forebygging av digitale overgrep er Martensklausulen av 1899.

Klausuler for det uforutsigbare

Martensklausulen sier at under forhold som kunne og burde falt inn under konvensjonene, men som ennå ikke er beskrevet i dem og regulert, skal folkerettens prinsipper, inkludert humanitære prinsipper og den offentlige samvittighetens krav, likevel gjelde. Dette innebærer at disse prinsippene vil gjelde uavhengig av hvordan teknologien utvikler seg. Klausulen sikrer med andre ord at det ikke finnes rettstomrom i krig.

Denne typen klausul er spesielt egnet for områder under stor og uforutsigbar utvikling, slik situasjonen var for krigens folkerett i 1899, og som det er for digitalisering i dag. Ved inngangen til en digital era trenger vi retningslinjer med Martensk helhetstenkning for å beskytte mennesker mot digitale overtramp.

Kommentarer (3)

Kommentarer (3)
Til toppen