Når KI automatiserer bort gravide kvinner i rekruttering

I rekruttering er målet å finne den best egnede kandidaten for stillingen. Kunstig intelligens (KI) kan spare oss for ressurser og gjøre at vi velger riktig. Dette kan være å bruke algoritmer og modeller for å sortere gjennom store mengder CV-er og søknader for å identifisere kandidater.

Selv om KI-rekruttering kan være en effektiv måte å finne og evaluere kandidater på, er det viktig å huske at teknologien ikke er perfekt. Brukt feil kan det utgjøre en barriere for riktig valg, være diskriminerende og hindre arbeidssøkeres mulighet for jobb. Hvilke vurderinger er avgjørende ved bruk av KI i rekruttering?

Regelverket – kompleksitet og overlapp

Arbeidsmiljøloven og likestillings- og diskrimineringsloven krever at rekrutteringsprosessen skal være rettferdig og ikke-diskriminerende. Alle kandidater skal bli vurdert på grunnlag av relevante kvalifikasjoner og erfaringer. Det er ulovlig å diskriminere på grunn av graviditet eller permisjon i forbindelse med fødsel eller adopsjon. Dette betyr at arbeidsgivere ikke kan nekte å ansette en gravid kandidat eller en kandidat som planlegger å bli gravid, eller diskriminere dem på noen annen måte i ansettelsesprosessen. Hvis KI-systemene resulterer i utilsiktet diskriminering av kvinner eller gravide, kan arbeidsgivere bli holdt ansvarlige for lovbrudd.

KI i rekruttering kan utfordre personvernregelverket. Arbeidsgivere må sikre at de har lovlig grunnlag for å behandle personopplysninger til kandidatene i KI-modellen, og at de informeres om hvordan opplysningene brukes. Personvernregelverket inneholder og, med noen unntak, et forbud mot helautomatiserte beslutninger, for eksempel når en avgjørelse om å avvise eller ansette tas av KI-løsningen.

Videre er EUs KI-forordning på trappene. Adgang til jobbmarkedet er avgjørende for livskvaliteten til de fleste av oss. Derfor ansees KI-løsninger som målretter jobbannonser, analyserer og filtrerer søknader og evaluerer kandidater som høy risiko. Organisasjoner som utvikler eller bruker KI til rekruttering må forholde seg til de strengeste kravene i KI-forordningen. Kravene trer ikke i kraft før i 2027, så det er god tid til forberedelse.

Diskriminering – forstå risikoen

Bruken av KI i rekruttering kan utfordre lovlige ansettelser ved å introdusere skjevheter og manglende menneskelige vurderinger. KI-algoritmer kan være basert på historiske data som reflekterer eksisterende biaser i rekrutteringsprosesser. Dette var tilfellet for rekrutteringsverktøyet til Amazon. Selskapet hadde laget verktøyet for å kunne tråle nettet og finne kandidater, som ble klassifisert med fra en til fem stjerner. Imidlertid lærte algoritmen å nedgradere kvinners CV-er systematisk til tekniske jobber som for eksempel programutviklere.

Når vi ser på hvordan kunstig intelligens kan diskriminere kvinner og gravide, blir det tydelig at historiske skjevheter i treningsdata, manglende fleksibilitet i algoritmene, utydelige kriterier for vurdering, forutinntatte språkalgoritmer og mangel på mangfold i utviklingsteamene er sentrale faktorer. Kunstig intelligens i rekruttering baserer seg ofte på store mengder historiske data, og hvis disse reflekterer eksisterende kjønns- eller omsorgsrelaterte skjevheter, kan algoritmene uforvarende forsterke disse biasene. KI-algoritmer kan mangle evnen til å ta hensyn til individuelle omstendigheter, spesielt når det gjelder kvinners livssituasjoner som graviditet og omsorgsforpliktelser. Dette fører til utfordringer knyttet til objektivitet og rettferdighet i rekrutteringsprosessen. Utydelige kriterier for vurdering og forutinntatte språkalgoritmer kan også bidra til utilsiktet diskriminering ved å favorisere visse egenskaper eller stereotypier.

Regler og risiko – vær forberedt

For å unngå diskriminering i KI-rekruttering, anbefaler vi:

• Å sørge for å bruke og utvikle representative og mangfoldige datasett. Dette kan innebære å samle inn data fra ulike kilder og kilder som representerer ulike grupper av mennesker, utvikle transparente algoritmer, og implementere tekniske løsninger som kan oppdage og korrigere for skjevheter. Dette sørger for at alle kandidater blir vurdert på grunnlag av relevante kvalifikasjoner og erfaringer, uten hensyn til faktorer som alder og kjønn.
• Å øke bevissthet om direkte og indirekte diskriminering blant egne ansatte ved bruk av ansattdata i rekruttering, både ved innkjøp, implementering og bruk av KI-verktøy, samt ved seleksjon og valg av kandidater. Dette innebærer kritisk å anvende KI-modeller, og å sikre menneskelig involvering og kvalitetssikring av ansattdata og metoder i rekruttering i henhold til regelverk.

Ved å ta høyde for disse vurderingene kan organisasjoner bidra til å minimere risikoen for utilsiktet diskriminering av kvinner og gravide i rekrutteringsprosesser som involverer kunstig intelligens. Dette vil støtte opp under rettferdige, likestilte og lovlige ansettelser.