Advarer: Selskaper må passe på hvordan de bruker kunstig intelligens til å rekruttere nye ansatte

– Jeg tror norske jobbsøkere får altfor lite informasjon om dette i dag, sier psykolog og gründer av testleverandøren Cut-e, Espen Skorstad.

Bruken av kunstig intelligens (AI) i rekruttering av nye ansatte brer om seg, også i Norge, og brukes i stadig større grad som en del av utvelgelsen når bedrifter rekrutterer nye medarbeidere.

Det kan dreie seg om alt fra chatbot-lignende samtaler med jobbsøkerne i tester, til vurderinger basert på algoritmer av kandidatenes svar på spørsmålene. Det blir også vanligere med bruk av videointervjuer.

Men bedrifter bør ta forholdsregler når de rekrutterer nye ansatte ved hjelp av AI, mener Skorstad. Enten de bruker AI på egen hånd, via tredjepart, eller gjennom et rekrutteringsbyrå.

Denne uken snakker psykologen om bruk av kunstig intelligens i rekruttering av nye ansatte på HR Norges rekrutteringskonferanse på Fornebu.

– Juridisk uholdbart

– Det er ingen aktører som i dag kan dokumentere at deres algoritmer for ansiktsgjenkjenning måler noe som det er faglig forsvarlig å bruke til å konkludere i en ansettelsesprosess.

– Hvis kandidatene som ikke får jobben ikke aner hvorfor utfallet ble som det ble, og det bare er teknologileverandøren som har informasjon om hva som styrer utvelgelsesprosessen, vil det være juridisk uholdbart om det senere viser seg at algoritmen har diskriminert på bakgrunn av alder, kjønn eller annen bakgrunn, sier Skorstad.

Psykologen er en av gründerne bak Cut-e, selskapet som ifølge dem selv benytter "teknologi i kombinasjon med vitenskapelig psykologi i ansettelser og utvikling av personell".

I 2017 ble Cut-e solgt til forsikringsselskapet Aon for rundt en milliard kroner, ifølge DN, men Skorstad jobber fortsatt i selskapet som i dag heter Aon Assessment Solutions.

Skorstad har stor tro på at AI kommer til å bli tatt i bruk på mange plan i rekrutteringsvirksomhet i Norge i årene som kommer, men at teknologien foreløpig har mange barnesykdommer, og at mange aktører innen feltet i dag lover mer enn de kan holde.

– Vi har utviklet en videointervju-plattform, men selv om vi har 13 mastergrader og 4 doktorgradsprosjekter gående og har jobbet i flere år for å utvikle en god modell med ansikts- og stemmegjenkjenning, finnes det per i dag ikke en forsvarlig vitenskapelig tilnærming til å bruke dette i rekruttering, mener Skorstad.

– Det er mye ved AI som ikke fungerer i dag, men det er noe av det som kommer til å fungere etterhvert. Det blir som Amaras lov, «Vi har en tendens til å overvurdere effekten av en teknologi på kort sikt og undervurdere effekten på lang sikt»

– Risikerer bedrifter å bli saksøkt dersom de ikke informerer kandidater om at de bruker og hvordan de bruker AI i rekrutteringsprosessen?

– Vel, den risikoen er fortsatt lav i Norge. Men om de benytter seg av rekrutteringsmetodikk som leder til usaklig forskjellsbehandling eller innebærer uforsvarlig håndtering av data, så setter det bedriften i et dårlig lys og de risikerer, med rette, å få både Likestillings- og diskrimineringsombudet og Datatilsynet på nakken, sier Skorstad.

Psykologen har flere konkrete råd til bedrifter som bruker eller vurderer å bruke slike tjenester.

Men først litt om hva som skjer over dammen, hvor jobbintervjuer ved hjelp av video og kunstig intelligens (AI) har blitt tatt i bruk i langt større grad enn i Norge.

Lov krever samtykke og informasjon

Tech industriens vaktbikkje, EPIC (Electronic Privacy Information Center) har bedt det amerikanske føderale forbrukerrådet (FTC) om å undersøke amerikanske Hirevue, et av selskapene som utvikler AI-basert rekrutteringsteknologi.

Hirevue har ifølge Washington Post brukt sin AI-baserte teknologi til å rekruttere millioner amerikanere til over 100 arbeidsgivere, inkludert Hilton og Unilever.

EPIC mener Hirevues teknologi kan true både personvern og jobbkandidaters levebrød, og at teknologien utgjør en omfattende trussel mot amerikanske arbeidere, ifølge avisen.

Hirevue bruker algoritmer til å analysere videointervjuer, hvor alt fra kandidatens ordvalg, toneleie og ansiktsbevegelser blir analysert, og kandidaten til slutt får en score for hvor "ansettbar" hen er. Denne scoren blir vurdert opp mot scoren til andre jobbsøkere, men kandidatene får ifølge avisen ikke vite sin egen score, selv om arbeidsgivere bruker informasjonen til å bestemme hvem de skal ansette og ikke.

1. januar i år trådte en ny lov om kunstig intelligens i kraft i Illinois. Den krever at selskaper som opererer i delstaten skal varsle søkerne og innhente samtykke når de skal bruke AI til å vurdere dem som jobbsøkere. Videre må selskapet forklare overfor jobbsøkerne hvordan teknologien fungerer og hvordan verktøyet evaluerer dem.

Jobbsøkere kan også kreve å få videointervjuer de har sendt inn til potensielle arbeidsgivere ødelagt, inkludert alle som måtte ha kopier av videoen, innen 30 dager.

Dette må bedrifter passe på

Så hva kan norske bedrifter som bruker AI til rekruttering, gjøre?

Skorstad mener mye handler om kvalitetssikrede løsninger, åpenhet og god nok informasjon.

1. Hjelp jobbsøkeren å forstå hvordan og hvorfor bedriften bruker AI i forbindelse med jobbsøkerprosessen:

– Kandidater som kjenner til AI, hvordan og hvorfor det benyttes, aksepterer generelt mer bruk av det, og kunnskap om AI kan generelt lindre skepsisen mot bruk av teknologien i personvurderinger. Jo mer informasjon søkerne har om hvordan organisasjonen din bruker AI, jo mer sannsynlig er det at de aksepterer det.

– Hvis kandidaten sier ja til å bli videointervjuet av en maskin, forklar hva som kommer til å skje, hvor lang tid det tar, hvordan svarene vedkommende avgir blir brukt og hvordan dataene behandles etterpå.

2. Innhent samtykke fra jobbsøkeren, og vær åpen om hvordan dataene brukes:

– Organisasjoner er lovpålagt å innhente samtykke fra jobbsøkere i EU før de bruker automatiserte beslutningsstrategier

3. Prosessen med å velge kandidater, enten det er nye ansatte eller interne forfremmelser, må være juridisk forsvarlig:

– Usaklig forskjellsbehandling, som favorisering av en bestemt gruppe kandidater basert på kjønn, etnisitet, alder eller seksuell legning, må ikke forekomme.

4. Ha åpne kommunikasjonslinjer underveis i rekrutterings-prosessen:

– Organisasjoner som bruker AI i ansettelser vil sannsynligvis måtte øke mengden av mellommenneskelig kontakt de har med søkere i løpet av utvelgelsesprosessen

5. Du må kunne forklare og dokumentere metodikken på en god måte:

– Hvis ansettelsesbeslutningene dine ikke lett kan forsvares, kan de fort bli utfordret av søkerne i en rettslig prosess, sier Skorstad.