SHAP-analyse: Nytt verktøy for maskinlæring gjør det mulig å åpne den svarte boksen

Et nytt verktøy for jobben med komplekse maskinlærings-modeller gjør det mulig å åpne den svarte boksen, og forklare hvordan modellen kom fram til en bestemt forutsigelse.

SHAP-verktøyet – SHapley Additive exPlanation – åpner for at bedrifter ikke trenger å ofre presisjon for å kunne forsvare algoritmens forutsigelse.

– Vi ser at de minst presise modellene er enklest å tyde, forklarte Erlin Gulbenkoglu, som er AI-spesialist hos den finske AI-bedriften Silo.ai, på konferansen European Data Ethics Forum 2018, som ble arrangert i København i slutten av september.