Forskere slakter AI-programvare for rekruttering: «Moderne frenologi»

Artikkelen er først publisert hos danske Ingeniøren.dk.

24 prosent.

Så stor er andelen av bedrifter som bruker AI-drevet rekrutteringsprogramvare, ifølge en rapport fra 2020. Det er programvare-firmaet Sage som har spurt 500 mellomstore bedrifter fra fem ulike land om de bruker den typen programvare til helt eller delvis å håndtere rekrutteringsprosessen.

Ifølge rapporten er interessen økende. 56 prosent av bedriftene forventet i 2020 å ta i bruk teknologien i løpet av et år. Firmaene som står bak programvaren, hevder at HR-avdelingen kan spare tid, redusere diskriminering og finne bedre kandidater.

Men ny forskning fra University of Cambridge mener dette er «moderne frenologi» og viser at programvaren snarere øker faren for diskriminering.

Lederen for Dataetisk Råd i Danmark, Johan Busse, mener selskaper burde «undersøke svært grundig om teknologien i det hele tatt kan levere det som påstås, eller om det er snakk om slangeolje.»

The Big Five

I de siste årene har det blitt vanlig å bli bedt om å ta opp en kort video der arbeidssøkeren introduserer seg selv og kanskje svarer på et par spørsmål knyttet til stillingen.

Mange ledere og HR-avdelinger vil bruke videoene til å danne seg et bedre inntrykk av søkerne før de setter i gang samtaler som er tidkrevende for alle parter. Men noen bedrifter velger å få teknologisk hjelp.

Ifølge forskningen fra Cambridge har det blitt spesielt vanlig å bruke AI-baserte videoskanningsverktøy. Forskerne har sett på programvare fra tyske Retorio, amerikanske HireVue og australske MyInterview, som påstår at de ved hjelp av talegjenkjenning og språkteknologi kan vurdere søkernes svar og ordvalg.

En annen del av den prioriteringen består i å bruke Femfaktormodellen, også kalt The Big Five, som ifølge programvare-produsentene kan redusere diskriminering og gjøre rekrutteringen raskere.

Det foregår ved at programvaren vurderer hvor på skalaen søkerne befinner i forhold til de fem personlighetstrekkene:

• Ekstraversjon (innadvendt-utadvendt)
• Nevrotisisme (bekymret-rolig)
• Åpenhet (konvensjonell-original)
• Samvittighetsfullhet (upålitelig-trofast)
• Vennlighet (irritabel-godmodig)

Produsentene påstår nemlig at de kan avkode søkernes sanne personlighet ut fra søknadsvideoene. For eksempel skal systemet kunne se om en søker som framstår pålitelig, vennlig og åpen, egentlig er upålitelig, irritabel og oppfarende.

Det skjer ved å skanne mimikk, kroppsspråk og toneleie. Ifølge bedriftene er modellene trent på hundretusenvis av videointervjuer fra hele verden, noe som angivelig gjør at modellene verken legger vekt på kjønn, rase eller andre irrelevante faktorer.

Virker modellene?

Ifølge forskerne fra Cambridge er det ingenting som tyder på at teknologien virker.

Både Retorio, HireVue og MyInterview er store spillere på markedet. Likevel finner forskerne at det ikke har blitt gjennomført fagfellevurdert forskning eller andre uavhengige studier som bekrefter bedriftenes påstander.

Forskerne poengterer at bedriftene heller ikke har lagt fram dokumentasjon for systemenes kapasitet, fram bare har utarbeidet såkalte «white papers» som beskriver systemene.

– White papers, som lenge har vært en viktig del av B2B-markedsføringen, bør i prinsippet være autoritativ og dyptgående forskning på et emne uten å gå inn for et bestemt produkt. Men AI-produsentenes bruk av white papers er opplagt markedsføring, framgår det av studien.

Praksisen med å utgi ikke-vitenskapelige white papers blir også brukt av store, kommersielle AI-laboratorier, som Deepmind, OpenAI og Meta AI.

Slike white papers bruker en form og et språk som minner om vitenskapelige publikasjoner. Dermed kan bedriftskunder å bli lurt til å tro at det er snakk om vitenskapelig informasjon. Men egentlig, skriver forskerne, inneholder ikke disse teknisk noen dokumentasjon for hvordan systemene fungerer.

Personlighetsmaskinen

Forskerne mener at AI-produsentene ikke klarer å unngå å vurdere søkere på bakgrunn av utseende, kjønn, rase – eller bare valg av bakgrunn.

For eksempel, skriver de, kunne journalister fra tyske Bavarian Broadcasting i 2021 dokumentere at Retorios programvare systematisk vurderte søkere iført briller eller skaut som mindre samvittighetsfulle og mer nevrotiske.

Journalistene viste også at systemet vurderte at en søker framsto som «mye mer samvittighetsfull og betydelig mindre nevrotisk» når han eller hun filmet foran enn bokhylle.

Forskerne undersøkte også om forhold som lyssetting ville påvirke en personlighetsscore. Studien foregikk ved å forsøke å gjenskape videoskanningsverktøyene ut fra bedriftenes beskrivelser.

Det har resultert i verktøyet «Personlighetsmaskinen».

Den demonstrerer hvordan vilkårlige endringer i ansiktsuttrykk, klær, lyssetting, kontrast og bakgrunn gir radikalt ulike personlighetsmålinger. Endringene har ingenting å gjøre med en søkers evner eller egnethet, og derfor, mener forskerne, er det ikke hensiktsmessig å bruke AI-drevet rekrutteringsprogramvare.

– Det faktum at endringer i lys, metning og kontrast påvirker personlighetsscoren, er et bevis på dette, forteller Kerry Mackereth, postdoktor ved University of Cambridge, til The Register.

Ikke vanlig i Danmark, foreløpig.

Ifølge Kim Staack Nielsen, som er styreformann i interesseorganisasjonen Dansk HR, er det kjent at AI-drevet rekrutteringsprogramvare er vanlig, spesielt i USA. Men det er ikke noe Dansk HR ofte ser brukt i Danmark. Foreløpig.

– Det er ikke veldig vanlig i Danmark, vi ser riktignok noen bedrifter som bruker det, men ofte er det en «light-utgave» de jobber med, forteller han.

Den utgaven styreformannen opplever at danske bedrifter faktisk bruker, kan slå opp stillinger, ta imot søknader, kalle inn til samtale og generelt ordne det rent administrative rundt rekrutteringen.

– Men dette vil bli vanligere i løpet av et par år.

Johan Busse fra Dataetisk Råd forteller også at det ikke ser ut til å være spesielt vanlig i Danmark, men han mener det er i bruk.

Busse tror også teknologien snart vil bli vanligere, og han råder bedriftene til å være varsomme.

– Det kan jo høres bra ut at man kan få teknologisk hjelp til å treffe bedre beslutninger, men det kan bli katastrofalt hvis mimikk og følelser blir systematisk feilvurdert ut fra amerikansk arbeidsmarked og kultur, forteller han.

– Hvis man vurderer å ta den typen i bruk slik programvare, bør man drøfte det grundig med arbeidstakerne og de faglige organisasjonene.