Hevder å ha åpnet den svarte AI-boksen: IBM med åpen løsning som forklarer hvordan kunstig intelligens tar beslutninger

TØYEN, OSLO (digi.no): Etter hvert som kunstig intelligens (AI) har gjort sitt inntog på stadig flere områder, har mange uttrykt bekymring for «fordomsfull» AI som tar beslutninger som diskriminerer mennesker. Årsaken er at maskinlæringsmodeller potensielt kan trenes opp med data fra mennesker med fordommer, og dermed vil AI-en «arve» de samme fordommene.

Ett av de store diskusjonstemaene blant selskaper som jobber med AI har i det siste vært hvordan man kan sørge for at menneskelige fordommer ikke «smitter over» på AI-baserte systemer og algoritmer. Ett problem har vært at maskinlæringsalgoritmer er som en «svart boks» som etter å ha blitt trent med store mengder data til slutt returnerer et resultat – uten at det er mulig å få innsikt i hvordan AI-en har kommet frem til resultatet.

Nå hevder IBM å ha «åpnet den svarte AI-boksen», og lanserer en ny løsning kalt AI Openscale. Løsningen kan analysere beslutninger som kommer ut av en AI, og forklare hvordan beslutningene er gjort. Som kjent satser IBM mye på sin egen AI-løsning, Watson, men den nylanserte AI Openscale-løsningen kan brukes også med AI fra konkurrenter – for eksempel Googles Tensorflow, SparkML, AzureML eller Amazons AI-løsninger (AWS Sagemaker).