Dansk samarbeid om retningslinjer for ansvarlig bruk av KI-assistenter

Et bredt samarbeid mellom teknologiaktører og myndigheter i Danmark har nå resultert i en omfattende veiledning for ansvarlig bruk av kunstig intelligens-assistenter (KI-assistenter) i både offentlig og privat sektor.

Dokumentet, utarbeidet i samarbeid med aktører som DI Digital, Netcompany, Microsoft, og flere offentlige organer, gir konkrete råd for hvordan KI-assistenter kan brukes på en sikker, etisk og juridisk forsvarlig måte. Veiledningen har særlig fokus på personvern og sikkerhet.

Samarbeid mellom offentlig og privat sektor

Samarbeidet er igangsatt på initiativ fra André Rogaczewski, formann for DI Digital og CEO i Netcompany, som over en lengre periode har jobbet med å skape idégrunnlaget og rammene for et samarbeid mellom offentlig og privat sektor innen kunstig intelligens.

– Vi har i lille Danmark tidligere vist vei for hvordan den offentlige og private sektor i fellesskap kan innføre store, felles digitale løsninger som for eksempel digital ID eller digital post, ansvarlig og rotfestet i demokratiske verdier og konkret lovgivning, uttaler han i en pressemelding.

Flere selskap deltar, blant annet Jyske Bank og Microsoft, samt en del danske etater som for eksempel Digitaliseringsstyrelsen (det danske Digitaliseringsdirektoratet), ATP/Udbetaling Danmark (myndigheten som er ansvarlig for dansk pensjon), Dansk Industri (tilsvarende NHO), DI Digital (tilsvarende Abelia) og Ervervsstyrelsen (tilsvarende Brønnøysundsregistrene).

Veiledning for sikker KI-bruk

Veiledningen tar for seg ni kritiske punkter som skal bidra til sikker bruk og kontinuerlig tilsyn med KI-assistenter. Blant annet fokuserer den på å definere klare bruksområder for KI-assistenter, sikre en fleksibel teknisk plattform, og vurdere nødvendige data og databehandlingsrutiner. Det legges stor vekt på å følge både EUs lovverk og kravene i GDPR og AIA (AI Act), som begge setter strenge krav til databehandling og beskyttelse av personopplysninger.

I takt med at KI blir en del av stadig flere sektorer, fremhever veiledningen viktigheten av kvalitetssikring, spesielt med tanke på risikoen for at KI-assistenter kan generere feilaktig informasjon, kjent som «hallusinasjoner», eller være utsatt for bias. Derfor oppfordres organisasjoner til å etablere prosesser for overvåkning og kontroll, slik at bruken forblir pålitelig og effektiv.

Standardisering og fleksibilitet

Ifølge veiledningen anbefales det at KI-assistenter settes opp på en standard plattform med en robust sikkerhetsmodell, slik at de enkelt kan integreres med andre systemer, men også tilpasses spesifikke behov. Dette sikrer ikke bare en høyere grad av datasikkerhet, men gir også rom for raskere utrulling og lavere kostnader. En standardisert tilnærming kan dessuten bidra til å redusere behovet for tidkrevende spesialtilpasninger, samtidig som plattformen kan tilpasses til fremtidige oppgraderinger i takt med teknologisk utvikling.

Strenge krav

Veiledningen går grundig inn på nødvendigheten av risikostyring, der organisasjoner oppfordres til å utføre systematisk vurdering av de potensielle risikoene knyttet til KI-assistenter. Spesielt gjelder dette systemer som defineres som «høyrisiko», som må oppfylle strenge krav til nøyaktighet, sikkerhet, og ikke minst menneskelig tilsyn.

Organisasjoner skal sikre at ansatte som interagerer med KI-assistenter, har nødvendig kompetanse og forståelse av KI-systemenes begrensninger, for å kunne utføre meningsfullt tilsyn og raskt kunne identifisere feil eller misforståelser.

Menneskelig tilsyn er avgjørende for at KI-assistentene skal kunne fungere som trygge og pålitelige verktøy, og det legges vekt på at KI-assistenter aldri skal kunne overstyre menneskelige beslutninger uten klare mekanismer for tilsyn og kontroll.

Kommer resten av Europa etter?

Det forventes at flere europeiske land vil se til denne danske veiledningen som en standard for ansvarlig utvikling av KI-løsninger, særlig når teknologien i økende grad implementeres i samfunnets kjernefunksjoner.

Aktørene bak veiledningen håper at den vil fungere som et verktøy for beslutningstakere og organisasjoner i både offentlig og privat sektor, og bidra til at de kan stille de riktige spørsmålene, treffe informerte valg og utvikle løsninger som skaper verdi for både innbyggere og næringsliv.

Veiledningen avslutter med å påpeke hvordan ansvarlig bruk av KI-assistenter kan bidra til å styrke Danmarks konkurranseevne, og samtidig sikre innbyggernes tillit til teknologiske løsninger. Samtidig understrekes det at utviklingen av KI innebærer et behov for kontinuerlig tilpasning til nye sikkerhetskrav og teknologiske fremskritt.