kunstig intelligens
Urettferdige maskinlærings-algoritmer: – Problemet kan ikke løses kun med matematikk
Illustrasjon.
Illustrasjon: Colourbox
«Fairness» – eller rettferdighet i algoritmer – er en av de store brikkene som må plasseres hvis det dataetiske puslespillet skal falle på plass. Men å bygge rettferdighet inn i algoritmer er ikke enkelt i praksis.
Utfordringen har på få år gått fra å være et nisje-forskningsområde innen maskinlæring, til bare i 2018 å få to dedikerte konferanser og en eksplosjon i antall forskningsartikler om emnet – en utvikling som ikke minst er drevet av de etter hvert tallrike eksemplene på diskriminerende algoritmer.
«Nå ser vi den negative effekten av arbeidet vårt,» bemerket Senior Data Scientist Manojit Nandi hos Rockettrip da han tok opp emnet på konferansen PyData sent i fjor.
