AI-etikk må starte hos den enkelte: – I jakten på systemer som er objektive, har vi skapt systemer som er subjektive

Amazons skrotede rekrutteringssystem er et skoleeksempel på konsekvensene av bias, eller skjevhet, i maskinlæring. Systemet skulle hjelpe bedriften med å gjennomgå CV-ene til jobbsøkere og finne de meste attraktive talentene, men endte opp med å bli droppet fordi det uforvarende hadde lært å foretrekke mannlige framfor kvinnelige kandidater.

Spør du menneskerettighetsadvokaten Carly Kind, er det grunnleggende problemet at man i utgangspunktet trodde at man kunne bygge systemet objektivt.

Carla Kind er tidligere Legal Director i NGO-en Privacy International, og den nye lederen av Ada Lovelace Institute – et uavhengig institutt som engasjerer seg innen etisk bruk av data og AI.