Google-forskere: Stort behov for bedre dokumentasjon av ML-modeller

I dag finnes det ingen standarder for hvordan utviklere dokumenterer de maskinlærings-modellene de trener og skaper. Hva var det opprinnelige formålet til modellen? Hvilke begrensninger har den? Disse spørsmålene blir vanligvis ikke besvart når modellene blir frigitt til bruk.

Og det er et problem, mener en gruppe forskere fra Google. Spesielt når modellene brukes på områder der de kan ha alvorlig innvirkning på personers liv – som i helsesektoren samt i jobbsammenheng og innen utdannelse og rettsvesen.

Eksemplene på systematisk bias, eller avvik, i algoritmer har etter hvert blitt tallrike, skriver de ni forskerne i en artikkel som i slutten av denne måneden blir presentert på konferansen Fairness, Accountability and Transparency (ACM FAT*) i Atlanta, USA.