Kunstig intelligens

Europarådet med regler for bruk av kunstig intelligens i rettsvesenet

Nytt charter for AI i rettsvesenet: – Predictive justice er villedende.

Illustrasjon.
Illustrasjon. (Illustrasjon: S.Gnatiuk / Colourbox)

Nytt charter for AI i rettsvesenet: – Predictive justice er villedende.

Hei, dette er en Ekstra-sak som noen har delt med deg.
Lyst til å lese mer? Få fri tilgang for kun 235,- i måneden.
Bli Ekstra-abonnent »

Algoritmer er raskt på vei inn som et viktig hjelpemiddel hos domstoler og politi – og med dem følger det store etiske spørsmål om rettssikkerhet og rettferdighet.

Derfor anser Europarådet at det nå er bruk for retningslinjer på området. I desember vedtok organisasjonen med 47 medlemsland (Norge inkludert) et charter for etisk bruk av AI (kunstig intelligens) i rettsvesenet.

Bruken av algoritmer som hjelpemiddel for dommere og advokater i jobben deres, har på kort tid blitt populær i USA. Her kan predictive analytics – eller forutsigende analyser – som COMPAS-modellen og lignende modeller, ha enorm betydning for hvorvidt en person blir innvilget prøveløslatelse eller ikke.

Til tross for kontroversielle saker om «skjevhet» (bias), er tendensen på vei til Europa. I Storbritannia tester man for tiden verktøyet Harm Assesment Risk Tool – eller HART – som skal forutsi en persons risiko for å begå ytterligere kriminalitet innen to år.

«Even if [HART] is the only predictive tool identified in Europe to date, it provides the opportunity to consider the challenges that public decision-makers could face in the near future if this type of application is tested on a larger scale, particularly in the light of findings in America,» skriver arbeidsgruppen bak det nye charteret i sin rapport.

Charteret foreslår fem prinsipper for etisk AI, og utfordrer samtidig begrepet «predictive justice», som de mener er villedende. Det kan nemlig gi et feilaktig inntrykk av hva som ligger i forutsigelsene til en algoritme.

«This abuse of language and the spread thereof seems to be explained by a transfer of the term from the «hard» sciences, where it refers to a variety of data science techniques derived from mathematics, statistics and game theory that analyse present and past facts to make hypotheses about the content of future events,» skriver arbeidsgruppen.

Enormt framskritt

Charteret er såkalt soft law, noe som innebærer at det er en henstilling til alle medlemsland i Europarådet. Men det har ikke noen rettslig kraft som for eksempel en EU-forordning, forklarer Merethe Eckhardt, som er utviklingsdirektør i den danske Domstolsstyrelsen.

Hun har vært med i arbeidsgruppen bak charteret, men ikke på vegne av Domstolsstyrelsen, understreker hun.

– Det vi gjerne vil, er å dra nytte av alt det som teknologien kan hjelpe oss med. Når jeg ser hva som er på gang, og hva som blir testet, blir jeg overveldet – også på en positiv måte, forteller hun om arbeidet.

– Vi ser verktøy som uendelig raskere enn mennesker kan finne fram relevante saker og presentere dem for deg. Dette anser jeg rett og slett for å være et enormt fremskritt for oss alle sammen.

Men det er grunn til å bruke omtanke og være forsiktig, anser Eckhardt, som sammen med resten av arbeidsgruppen, skriver at det kan være «tremendous opportunities but also real risks in the application of new technologies that are used without the necessary precautions».

Selskapet bak algoritmen COMPAS har for eksempel forbeholdt seg retten til å hemmeligholde hvordan algoritmen i detaljer kommer frem til vurderingene sine. En slik situasjon utgjør i seg selv et stort demokratisk problem, mener arbeidsgruppen bak charteret.

Gamle rettigheter i en ny verden

De europeiske menneskerettighetene sier blant annet at man har krav på en rettferdig rettssak, noe som innebærer muligheten til å forsvare seg – også mot forutsigelsene til en algoritme. Det betyr at den anklagede må ha adgang til – og være i stand til å utfordre – «the scientific validity of an algorithm, the weighting given to its various elements and any erroneous conclusions it comes to», fastslår arbeidsgruppen.

Problemstillingen er dessuten annerledes i her Europa enn i USA, fordi GDPR garanterer retten til å få informasjonen om logikken bak en beslutning som er foretatt av en algoritme.

Skjema med tittel "checklist for evaluating your processing methods".
  Illustrasjon: European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their environment

– Det som vi sitter tilbake med i diskusjonene våre, er respekten for fundamentale rettigheter – kvalitet, sikkerhet, beskyttelse mot diskriminering og så videre, forteller Merethe Eckhardt.

– Dette er ikke noe nytt, men det skal brukes i en ny virkelighet.

Ifølge Merethe Eckhardt er de to avgjørende elementene transparens og kontroll.

– Alle som er med på å skape virkeligheten vår i den analoge verdenen, må være med på å forme den i den digitale verdenen. Og det er vi ganske enkelt ikke gode nok til ennå, sier hun og fortsetter:

– I dag er det teknikkene og markedet som skaper produktene. Og det vi savner, er resten – også filosofien.

Samtidig er det bruk for kontrollmekanismer som sikrer at algoritmene virker etter hensikten.

Hvis man innenfor ulike bransjer vil ha et raskt inntrykk av hvor godt man følger charteret, inkluderer rapporten sjekklisten nedenfor til formålet.

Artikkelen har tidligere vært publisert på Datatech. Datatech tilhører Teknologiens Mediehus.

Kommentarer (0)

Kommentarer (0)
Til toppen