Foreslår førerkort for kunstig intelligens

Hvem skal få lov til å bruke kunstig intelligens? Og trenger man egentlig å forstå den?

– For å kjøre bil trenger du ikke å vite nøyaktig hvordan bilen fungerer, men et par-tre ting må du beherske. Hvis man trekker en parallell til bruk av kunstig intelligens, kan man se for seg et slags førerkort for å få lov til å bruke kunstig intelligens til ulike oppgaver, sier Inga Strümke, som er stipendiat ved institutt for fysikk og teknologi i Universitetet i Bergen.

Førerkortet var en av idéene som ble luftet under debatten «Kunstig intelligens -hva skal til?» som ble holdt i IKT-Norges årskonferanse Neo 2019 i Oslo torsdag 25. april.

Strümke mener også samfunnet hadde vært tjent med veldig konkrete retningslinjer for hva en kunstig intelligens som minimum må ha før den kan brukes. Blant annet bør den ha en usikkerhetsberegning og et gyldighetsområde som den trygt kan brukes i. Hun mener de etiske retningslinjene fra EU-kommisjonen er for upresise.

– Det må være langt mer konkret enn «etisk kunstig intelligens», for hva betyr det? Når man implementerer en algoritme så bestemmer man hvilken målfunksjon den skal ha og hva som skal brukes. Da må man vite hva den skal gjøre, hva den skal prestere, og hva den skal skille.

– Det er jo forskjell på å bruke kunstig intelligens til å beregne hvor mange ansatte man må ha på jobb en solskinnsdag på den lokale iskiosken ned på havna, og en løsning som skal vurdere liv og død i en krigssituasjon. Skal de basere seg på samme lisens? spurte ordstyrer Torgeir Waterhouse i IKT-Norge.

– Selvfølgelig må det være forskjellige lisenser til ulike oppgaver, svarte Strümke, og la til at man ikke får fly jagerfly med førerkort klasse B.

Den svarte boksen

Inga Strumke ble kjent med kunstig intelligens og maskinlæring under sitt arbeid med en doktorgrad i partikkelfysikk. Hun mener åpenhet og presisjon er den viktigste tematikken rundt kunstig intelligens, og hun hater begrepet «black box» som blir brukt om alle vurderingene kunstig intelligens foretar som vi ikke forstår.

– Jeg blir henrykt når en algoritme klarer å forutse et resultat sånn noenlunde riktig, men mitt mål er å forstå hvorfor dette resultatet ble riktig predikert. Når jeg hører begrepet «black box» blir jeg provosert og litt lei meg. Jeg tenker at vi må være mer ambisiøse enn som så. Vi må forsøke å forstå hva som foregår. Hvis man skal prate om etikk i forbindelse med kunstig intelligens, så må denne etikken være en iboende egenskap hos den kunstige intelligensen, og da må vi forstå hvordan den fungerer.

Sammenligner med intuisjon

Klas Pettersen, administrerende direktør for Nora AI (Norwegian artificial intelligence consortium), ser litt annerledes på saken.

– Kunstig intelligens kan sammenlignes med en menneskehjerne med intuisjon, det er komplekst. Vi vet ikke alltid hvorfor vi selv tar beslutninger. Når det gjelder å forstå kunstig intelligens, tror jeg vi må gi opp. Hvis man bruker diagnostisering av kreft som et eksempel: Man kan ha en kunstig intelligens med nær 100 prosent treffsikkerhet, og ikke forstå den. Eller en kunstig intelligens med 90 prosent sikkerhet som man forstår. Hvilken velger du?

– Men hvordan utviklet du en kunstig intelligens med 100 prosent treffsikkerhet? spurte Strümke poengterende.

Les mer: Vil bruke kunstig intelligens på kundene