Hvitvasking, arkivering og skrøpelige pasienter: Tester AI i Datatilsynets sandkasse

– Det er tre ambisiøse prosjekter vi har plukket ut. Og basert på erfaringer fra første sandkasserunde om ressursbruk, velger vi denne gangen å gå for tre for å kunne gå enda dypere i materien i de enkelte prosjektene, sier prosjektleder Kari Laumann i Datatilsynet i en nyhetsmelding.

Datatilsynet har valgt ut tre nye prosjekter, som skal få grundig og konstruktiv sparring i den regulatoriske sandkassa for ansvarlig kunstig intelligens.

Sandkassa ble til høsten 2020, for å utforske gråsoner i regelverket og stimulere til ansvarlig innovasjon. Datatilsynet spurte startups, forskere, næringslivet og offentlig sektor om hindre for bruk av KI. Mange pekte på at regelverket rundt GDPR var vanskelig å forholde seg til. Selv om det finnes generell veiledning, kan det være en utfordring å vite hvordan regelverket skal tolkes i praksis, har Laumann tidligere forklart til Digi.no.

Deltagerne i sandkassa får gratis veiledning, og både offentlige og private virksomheter fra alle sektorer er velkomne til å søke.

De tre nye prosjektene ble valgt ut blant 21 søknader, og representerer sikkerhetssektoren, byråkrati og helse.

– De tre prosjektene vi valgte ut viser godt spennet av områder godt personvern er viktig på, sier direktør Bjørn Erik Thon i en nyhetsmelding.

Prosjektene, som vil entre sandkassa i løpet av november, kommer fra oppstartsbedriften Finterai og Helse Bergen HF. Det tredje er et samarbeidsprosjekt mellom Arkivverket og Simplifai.

Helse Bergen HF

Kunstig intelligens-prosjektet i helseforetaket Helse Bergen HF tar utgangspunkt i tall som viser at 10 prosent av pasientene innenfor somatikk står for omtrent 40 prosent av liggedøgnene og har hyppige reinnleggelser. Dette er ikke unikt for helseforetaket i Bergen, men er et mønster dokumentert i Norge og verden ellers.

– Felles for disse gjengangerne er at de er veldig syke mennesker med mange samtidige diagnoser. Ikke alltid så gamle, men med komplekse sykdomsbilder på tvers av medisinske fagområder, slik at de ikke alltid får optimal oppfølging når de skrives ut, sier rådgiver Erlend Hodneland i Helse Bergen HF, i meldingen.

Pilotprosjektet har ifølge Datatilsynet vist at maskinlæring med relativ stor sannsynlighet kan forutse hvem som står i fare for å bli gjeninnlagt. Hvis disse pasientene skrives ut med en ekstra oppfølgingsmerkelapp, skal de kunne få bedre hjelp av tverrfaglige helsetjenesteteam.

Finterai

Finterai er et helt ferskt selskap som ikke engang var registrert da de begynte å skrive på søknaden til sandkassa. De vil, skriver Datatilsynet, gå løs på et samfunnsproblem langt større aktører har revet seg i håret over før dem: hvitvasking og terrorfinansiering. Bankene er pålagt å gjøre sitt for å forhindre det, men sliter med å gjøre det på en effektiv måte, skriver Datatilsynet.

– Bankene bruker 20 ganger mer på etterlevelse av regelverket for antihvitvasking, enn det Økokrim klarer å hente tilbake av hvitvaskede penger, forteller Alexander Skage, CTO i Finterai, i meldingen. Likevel ble DNB i vår ilagt et gebyr på 400 millioner kroner for vesentlige mangler ved ihvitvaskingsinnsatsen.

Finterai skal kutte finansinstitusjonenes risiko og kostnader i arbeidet mot hvitvasking og terrorfinansiering. De vil nytte seg av federert læring, en desentralisert KI-metode som blir ansett som mer personvernvennlig. Slik skal institusjonene lære av hverandres data uten å faktisk dele dem.

Arkivverket og Simplifai

Samarbeidsprosjektet mellom Arkivverket og Simplifai går ut på å bruke kunstig intelligens til å sørge for at viktige e-poster blir tatt vare på.

– Stereotypen er denne motsetningen mellom arkivering og personvern, at arkivaren vil spare på alt, mens personvernet krever at alt slettes. Det blir for enkelt, sier avdelingsdirektør Espen Sjøvoll i Arkivverket, i meldingen.

– Det er godt personvern i at de riktige dokumentene blir arkivert. For eksempel i mobbesaker i barneskolen, kan en risikere at rettighetene som innbygger kan gå tapt om dokumenter er slettet.

Men å velge ut hva som skal arkiveres og ikke, er vanskelig og ressurskrevende. Derfor ønsker Arkivverket å utforske muligheten for å ta i bruk maskinlæring for å identifisere og foreslå hvilke eposter og tilhørende dokumenter som regnes som arkivverdige. Men å slippe kunstig intelligens løs i epostkassene våre, reiser en del personvernrelaterte spørsmål, skriver Datatilsynet.