kunstig intelligens
Ekspert om AI-diskriminering: Vi trenger et algoritmetilsyn
AI-ekspert Morten Goodwin ved Centre for Artificial Intelligence Research (CAIR) mener det kan føre til diskriminering og forskjellsbehandling som er vanskelig å oppdage, når kunstig intelligens tas i bruk i avanserte saksbehandlingssystemer.
Foto: Grethe Nygaard
Kunstig intelligens er i ferd med å tas i bruk i saksbehandlingen både hos offentlige etater og private selskaper. Morten Goodwin, nestleder ved Centre for Artificial Intelligence Research ved universitetet i Agder, mener man nå bør vurdere å opprette et algoritmetilsyn for å sikre at datasystemer med AI ikke diskriminerer og forskjellsbehandler på måter som kan være vanskelig å avdekke.
– De fleste er oppmerksomme på at det kan få konsekvenser for personvernet ditt når du gir fra deg data. Men de færreste har tenkt over at det også kan få konsekvenser for hvordan du behandles av Nav, forsikringsselskapet ditt, banken din, eller bedriften du har søkt jobb hos, sier han.
«Mannlige» data får konsekvenser