Amazon har flest menn på lønningslistene, i likhet med bransjen for øvrig. Her representert ved selskapets gründer og toppsjef Jeff Bezos, verdens rikeste person.
Amazon har flest menn på lønningslistene, i likhet med bransjen for øvrig. Her representert ved selskapets gründer og toppsjef Jeff Bezos, verdens rikeste person. (Illustrasjonsfoto: Lindsey Wasson, Reuters)

Maskinlæring

Amazon skroter AI-verktøy som diskriminerte tech-kvinner

Trente opp algoritme for å rekruttere de beste utviklere og teknologer, men modellen likte ikke kvinner.

IT-giganten er kjent for sin iver etter å automatisere. Kunstig intelligens og maskinlæring inngår i svært mye av forretningsdriften til Amazon, blant annet til logistikk, vareplukking, brukertilpasning med skreddersydde tilbud og generelt i de mange netttjenestene de tilbyr.

At selskapet også ønsker å effektivisere selve rekrutteringsfasen kommer neppe som en overraskelse, men verktøyet de laget for dette ble ingen suksess.

I 2014 begynte et team av spesialister på oppgaven. Ved hjelp av maskinlæring laget de en eksperimentell løsning for å gå gjennom bunkene med jobbsøknader.

Året etter gikk det opp for dem at systemet ikke rangerte kandidater til jobber som programvareutvikler og andre tekniske stillinger på en kjønnsnøytral måte, skriver Reuters.

Forsterket skjev kjønnsbalanse

For hva skjer hvis du trener opp algoritmer som skal plukke ut de best egnede kandidatene, hvis modellene er trent opp på jobbsøknader de hadde samlet inn over en 10 års periode?

De fleste av disse var menn. Her skiller Amazon seg lite fra resten av den mannsdominerte IT-bransjen. 

Resultatet var at rekrutteringsverktøyet lærte seg selv at menn var de foretrukne kandidatene. Senere forsøkte teamet å justere algoritmene, men uten å lykkes. Etter hvert mistet Amazon-ledelsen troen på prosjektet, som ble lagt ned tidlig i 2017, ifølge nyhetsbyråets kilder.

Selskapet har ikke ønsket å kommentere utfordringene de støtte på i prosjektet, men de hevder at verktøyet aldri ble brukt til å evaluere jobbsøkere.

Flere har snublet

Dette er ikke den eneste historien der maskinlæring har gitt uønskede resultater. Microsoft slapp i 2016 løs chatboten «Tay» på Twitter, som var programmert til å trenes opp av menneskene den kommuniserte med. 

Profilbildet til Microsofts mislykkede chatbot Tay. Foto: Microsoft Research

16 timer etter lansering ble boten skrudd av for godt. Det skjedde etter at Tay hadde spydd ut en serie nedlatende og rasistiske meldinger. Microsoft måtte beklage episoden, som ifølge selskapet skyldtes at chatboten ble sabotert av nettroll som trente den opp med politisk lite korrekt innhold.

Maskinlæring brukt til ansiktsgjenkjenning har også skapt overskrifter, blant annet da Amazons løsning Rekognition feilaktig pekte ut 28 representanter i kongressen som kriminelle, fordi de var mørke i huden.

At rasediskriminering kan være et problem i løsninger for ansiktsgjenkjenning, viser en rapport fra borgerrettsorganisasjonen American Civil Liberties Union, som Wired omtalte i sommer. Dette underbygges også av forskning fra prestisjeuniversitetet MIT, som tok for seg AI-løsninger fra selskaper som IBM, Microsoft og Facebook.

Andre opplever suksess

Ny teknologi har det med å skape utfordringer. I dag er bruk av kunstig intelligens en av de mest synlige og hypede blant teknologitrendene, med nærmest uendelige bruksområder.

Flere opplever tidlig suksess med bruk av kunstig intelligens. Denne uken slo Gartner fast at det definitivt gjelder innen e-handel. De viser til en egen undersøkelse der 70 prosent av virksomhetene som er spurt oppgir at satsingen er svært eller ekstremt vellykket.

Analysebyråets spådom er at AI innen år 2020 vil være i bruk av minst 60 prosent av alle virksomheter som driver med digital kommersiell virksomhet, samt at slik teknologi vil stå for hele 30 prosent av inntektsveksten.

Kommentarer (35)

Kommentarer (35)
Til toppen