DEBATT

Hvordan sikre at kunstig intelligens er menneskeorientert

Kunstig intelligens stiller strenge etiske krav. EU-kommisjonens ferske digitale strategi har til formål å gjøre det lettere og sikrere å bruke kunstig intelligens. Her bør også norske virksomheter kjenne sin besøkelsestid.

AI er bare så god som kvaliteten på dataene den mates inn med, skriver Raluca Cousson-Postoarca i Orange Business Service.
AI er bare så god som kvaliteten på dataene den mates inn med, skriver Raluca Cousson-Postoarca i Orange Business Service. Foto: Orange / Colourbox
Raluca Cousson-Postoarca, leder for innovasjon i Orange Business Service
7. juli 2020 - 06:00

Det er særlig rettet fokus på pålitelig kunstig intelligens basert på ekspertise og tillit, heter det seg. EUs strategi gir europeiske virksomheter en sterk og sunn konkurransemulighet. Når det kommer til datahåndtering og kunstig intelligens, kan nettopp tillit være en stor konkurransefordel.

Her bør også norske virksomheter kjenne sin besøkelsestid. Den norske regjeringens ferske nasjonale strategi for kunstig intelligens krever at norske virksomheter for alvor forstår hvordan de skaper tillit og bruker teknologi og kunstig intelligens ansvarlig. 

Veiledningen i seg selv er ikke bindende, men den vil påvirke lovgivning på dette feltet og er utformet for å hjelpe bedrifter med å sette sin egen internpolitikk og praksis. EU-kommisjonen sier: «AI er ikke et mål i seg selv, men et verktøy som må tjene mennesker med det endelige målet om å øke menneskelig velvære.» 

AI kan bidra til å lindre global fattigdom og sult ved å forbedre avlingene i landbruket eller forutsi naturkatastrofer gjennom analyse av kompleks miljødata. Når AI brukes på riktig måte, vil AI tilføre nye dimensjoner snarere enn å erstatte mennesker, som utmerker seg med ferdigheter som kompleks problemløsing eller empati for en kunde. Men det fører også med seg store utfordringer med tanke på fremtidens arbeid og belyser en rekke etiske, juridiske og sikkerhetsmessige spørsmål.

Eliminer skjevhet

AI er bare så god som kvaliteten på dataene den mates inn med. Opplæringsdata for AI kan for eksempel inneholde implisitte kjønns-, rasemessige eller ideologiske skjevheter. Det er derfor avgjørende at AI-systemer blir opplært med data som er habil og virkelig representativ for en befolkning.  

Det er risiko for at programmerere introduserer skjevheter i maskinlæringsalgoritmene som tolker data. AI kan også føre til eller overvinne økonomiske skjevheter. Nettopp derfor er det så viktig å håndtere AI på en etisk forsvarlig måte.

Syv viktige krav til beste praksis for etisk AI:

  1. Menneskelig påvirkning og tilsyn: AI-systemer gir mennesker mulighet til å hjelpe dem med å ta informerte beslutninger og "fremme deres grunnleggende rettigheter".
  2. Alle AI-systemer må være teknisk robuste og sikre: De må også være "nøyaktige, pålitelige og reproduserbare" og tilby mulighet for tilbakemelding hvis det er et problem.
  3. Total respekt for personvern og databeskyttelse må på plass. Tilstrekkelige mekanismer for styring av data må også tilveiebringes "under hensyn til kvaliteten og integriteten til dataene og sikre legitimert tilgang til data."
  4. Alle data, systemer og AI-forretningsmodeller skal være transparente. AI-genererte beslutninger bør "forklares på en måte tilpasset den berørte interessent." Mennesker må få beskjed om at de kommuniserer med et AI-system og må forstå dens evner og begrensninger.
  5. Urettferdig skjevhet må unngås. I tillegg skal "AI-systemer være tilgjengelige for alle, uavhengig av funksjonshemming og involvere relevante interessenter gjennom hele deres livssirkulasjon."
  6. AI-systemer skal være til fordel for enkeltpersoner, sosialt og miljømessig velvære. AIs innvirkning på disse bør vurderes til enhver tid.
  7. AI-systemer skal være både ansvarlige og beregnelige og det må settes inn mekanismer for å sikre dette. Revidering spiller en viktig rolle her, spesielt med kritisk viktige applikasjoner. Videre må det også være mulighet for å klage om forbrukere mener de har blitt behandlet urettferdig.

For å lykkes er virksomheter nødt til å forholde seg først og frem til mennesker. For at prinsipper og retningslinjer skal etterfølges, er det viktig at medarbeidere får riktig opplæring. 

Når kunstig intelligens anvendes riktig, understøtter det menneskelige beslutningsprosesser i stedet for å erstatte dem. Virksomheter med en menneskesentrert tilgang sikrer at de bruker teknologien på en måte som støtter en positiv utvikling for virksomheter, samfunnet og den enkelte. Og det er nettopp det som skaper tillit og lar virksomheter å innfri det store potensialet i kunstig intelligens.

Nasjonalbiblioteket har fått i oppdrag av regjeringen å gjennomføre prosjektet.
Les også

Skal undersøke hvordan norske tekster brukes til KI-trening

Del
Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.
Tekjobb
Se flere jobber
En tjeneste fra