DEBATT

Kunstig intelligens – ekte diskriminering

Vil kunstig intelligens (KI) bidra til mer eller mindre diskriminering i arbeidslivet, og hvilke implikasjoner kan bruken av teknologien få for norske selskaper når EU er på vei med et felleseuropeisk regelverk for KI?

Inger Eline Romundgard og Andreas Bjørnebye, henholdsvis manager og advokat i EY, skriver at brukt godt kan kunstig intelligens fremme ikke-diskriminerende ansettelser, men kompleksiteten ved KI og kvaliteten på tilgjengelig data, kan gjøre det vanskelig for arbeidsgiver å forstå systembeslutningene.
Inger Eline Romundgard og Andreas Bjørnebye, henholdsvis manager og advokat i EY, skriver at brukt godt kan kunstig intelligens fremme ikke-diskriminerende ansettelser, men kompleksiteten ved KI og kvaliteten på tilgjengelig data, kan gjøre det vanskelig for arbeidsgiver å forstå systembeslutningene. Foto: Pressebilder
Inger Eline Romundgard, manager, og Andreas Bjørnebye, advokat, begge i EY
20. nov. 2023 - 13:34

Arbeidslivet står i en tid der KI påvirker flere og flere områder. Dette gir nye muligheter, men stiller også nye krav. Et kjernespørsmål er om teknologien underbygger eller undergraver viktige samfunnsgoder.

Dette er en bekymring i store deler av næringslivet: Nær halvparten av alle spurte CEO-er (1200 respondenter) i EYs globale Outlook Report svarte at det at det må gjøres mer for å håndtere etiske og sosiale problemstillinger som KI fører med seg.  

Like eller ulike muligheter

En problemstilling som angår oss alle, er om vi har like muligheter for deltakelse i arbeidslivet uavhengig av for eksempel kjønn, etnisitet, nedsatt funksjonsevne, seksuell orientering eller livssyn.

Selv om diskriminering er ulovlig etter likestillings- og diskrimineringsloven, viser praksis dessverre at mulighetene ikke er likt fordelt. Forskning viser at mens enkelte har medvind inn i arbeidslivet, har andre en merkbar motbør. Det kan være i form av fordommer, som for eksempel at jobbsøkere i rullestol må søke dobbelt så mange jobber for å komme til intervju som andre, arbeidssøkere som har hatt psykiske helseproblemer møtes med skepsis, eller at søkere med utenlandsklingende navn har lavere sjanse for å få komme på intervju enn søkere med tradisjonelle norske navn.

Et spørsmål som reiser seg i sammenheng med KIs inntoget i arbeidslivet, er om teknologien vil bidra til å fremme mangfold og likestilling, eller om den vil opprettholde eller til og med forsterke eksisterende diskriminering.

Alexander Vaagan, chief data scientist i Inmeta, skriver at for å hente ut verdiene i virksomheten, må ledelsen forstå at KI handler om forretning, ikke om teknologi.
Les også

KI vil ikke gi deg bedre tid – bare økte krav

Optimismen har fått seg en knekk

Mange er optimister om hva teknologien kan hjelpe oss med. Eksempelvis håper mange at KI kan sikre objektive vurderinger av arbeidssøker kun med søkelys på kandidatens kompetanse. Denne optimismen har likevel fått seg en knekk: Forskning fra Cambridge University på KI brukt i rekruttering har vist at teknologien kan bidra til mer diskriminering og sementering av fordommer.

En årsak til dette er at KI trenes på eksisterende data hentet fra verden slik den er, med diskriminering og fordommer. For eksempel vil historiske data vise en tung overvekt av menn som er toppledere og at få tech-grundere med mørkere hudfarge får finansiering fra venturefond. Disse dataene betyr ikke at menn er mest egnet som ledere eller at hudfarge har sammenheng med dyktighet innen teknologiutvikling.

Det skyldes snarere historisk diskriminering som har sementert seg. Denne sammenhengen ser ikke nødvendigvis teknologien. KI endrer ikke verden fra der den er til dit vi ønsker at den skal være, uten at vi høyner kunnskapen om ubevisste fordommer, høyner risikoen for å bli tatt i brudd på diskrimineringsloven og gjør sanksjonene kraftigere.        

BI-professor Christoph Lutz har forsket på digitale teknologier, digitale ulikheter, personvern og de sosiale og etiske implikasjonene av nye teknologier som kunstig intelligens.
Les også

Hvor prestisjefylt er yrket ditt? Chat GPT svarer

Høyrisikobruk av KI

Dette er en del av bakteppet for EUs nye regelverk for bruk av kunstig intelligens. EUs AI Act vil legge føringer på bruk av KI i sammenheng med rekruttering og ansettelse. Bruk av KI til rekruttering vil bli ansett som såkalt høyrisikobruk av KI. Dette kan virke forvirrende, men skyldes at nettopp slik bruk vil påvirke individets grunnleggende rettigheter – som adgangen til arbeid.

Brukt godt kan KI fremme ikke-diskriminerende ansettelser, men kompleksiteten ved KI og kvaliteten på tilgjengelig data kan gjøre det vanskelig for arbeidsgiver å forstå systembeslutningene. Dermed risikerer man ikke å forstå kvaliteten på outputen som går inn i eget beslutningsgrunnlag.

Dette blir kritisk under AI Act, hvor bruk av KI som klassifiseres som høyrisiko, må oppfylle strenge krav til «good governance» for å unngå et tungt sanksjonsapparat. Her vil de som setter i gang et godt prosjekt før implementering av KI, kunne skille seg ut og sikre en retning videre som både sikrer mangfold, hindrer diskriminering, sikrer overholdelse av EUs strenge regelverk når det kommer og gir gevinstene teknologien lover innen effektivisering og forbedring av prosesser. 

Fortsatt fersk statsråd for forskning- og høyere utdanning, Oddmund Hoel, vil at de nye sentrene både skal utvikle og ta i bruk ny kunnskap.
Les også

Nå er KI-milliarden lyst ut: − Vi må få det ned på jorda

Del
Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.