Professor: Den svarte boksen er allerede åpen – kausalitet er det neste forklaringsproblemet for AI

Det er mye snakk om svarte bokser innen maskinlæring og kunstig intelligens. Men det problemet er faktisk løst i dag.

Det neste problemet i forhold til å skape modeller hvor resultater bak dommer kan forklares tilbake til mennesker, er å få kausalitet – altså sammenhengene mellom årsak og virkning – med i modellen. Men dette krever eksperimenter med mennesker, av samme type som de vi for eksempel bruker innen medisinsk forskning.

Dette forteller Lars Kai Hansen, som er professor ved Danmarks Tekniske Universitet (DTU) Compute og en av redaktørene bak en ny bok om problematikken; «Explainable AI: Interpreting, Explaining and Visualizing Deep Learning». De andre forfatterne av boken er blant annet deltakere fra en workshop om «explAInable AI» på konferansen NeurIPS. Dette dreier seg om yttergrensene av forskningen på området.