AI trenger ikke å ha etisk særstatus – det er et fordømt regneark!

Det er vrøvl å diskutere en særskilt etisk kodeks for bruken av AI, og du kan like gjerne frykte et stort regneark, som du kan frykte en kunstig superintelligens.

Dette er budskapet fra Morten Middelfart, som er grunnlegger av og Chief Data Scientist hos Lumina Analytics, på konferansen Data Day '19, som i forrige uke ble arrangert i København.

– Selvfølgelig må vi være etiske. Men det må vi da saft suse også være når vi lager et ERP-system eller skriver lovgivning, sa Morten Middelfart fra scenen.

– Maskinlæring og kunstig intelligens er bare dovne metoder for å programmere. Selvfølgelig må vi være ansvarlige for at man ikke gjør sinnssyke ting. Men dette er bare datamaskiner, det er ikke intelligens, og de fortjener ikke noen særstatus i forhold til hvordan vi etisk bør forholde oss til mange andre ting i livene våre.

Morten Middelfart utviklet på 1990-tallet den programvaren som etter et oppkjøp ble til TARGITs BI-løsning. I 2014 forlot han jobben som CTO i TARGIT og har siden startet både Lumina Analytics og Social Quant, og han har dessuten også stillingen som CIO for Genomic Expression Inc.

• Google-forskere: Stort behov for bedre dokumentasjon av ML-modeller

Et veldig stort regneark

Lumina Analytics, som har hovedkontor i USA, har spesialisert seg på risikoprofiler på både potensielle terrorister og selvmordskandidater. Her kan maskinlæring gjøre underverker ved å finne mønstre i ekstremt store datamengder. Men til syvende og sist er det bare snakk om et veldig stort regneark, sier Morten Middelfart, som prøvde å snakke ned den dystopiske AI-frykten på konferansen.

– Hvis man tenker på det som et veldig stort regneark, er det ikke så ille. Det er i hvert fall ikke mange som frykter at regneark kommer og spiser dem og bruker dem som energikilde. Det skjer ganske enkelt ikke så ofte, sa han.

– Jeg synes at det er sprøyt når folk mener at vi må innføre etiske regler. Å love hverandre at vi ikke programmerer slik at de kommer og dreper oss og overtar verden! Det er pokker meg et fordømt regneark!

I en paneldebatt på konferansen fikk den danske IT-Branchens direktør, Birgitte Hass, forøvrig heist et rødt flagg i forhold til en potensiell kunstig superintelligens, og nevnte blant annet forskning på kvantedatamaskiner, noe som for eksempel foregår på Niels Bohr Institutet, som en drivkraft.

– Det er der jeg blir bekymret. Hvor lang tid tar det den datamaskinen å komme ut og lære seg selvoppholdelsesdrift? Det er jo ikke særlig morsomt å bli avstengt, sa Birgitte Hass.

Microsoft Danmarks COO og CMO, Nana Bule, argumenterte også med at AI gir anledning til etiske overveielser.

– Jeg tror ikke at vi skal være redde, men jeg tror vi skal tenke oss om. Jeg tror bestemt at det trengs noen prinsipper omkring bruken av kunstig intelligens, omkring transparens og ansvar for beslutningene. Også fordi vi har sett eksempler på at kunstig intelligens forsterker de skjevhetene som eventuelt måtte være i dataene, sa Nana Bule.

Men for Morten Middelfart er jobben med AI og maskinlæring altså ikke annerledes enn mange andre områder.

– Alle ting som er gjort idiotisk blir farlig, var argumentet fra Morten Middelfart.

– Kunstig intelligens er en metode for å finne mønstre, og lage noen systemer som repeterer de mønstrene de har sett, og bruke dem til å beregne fremtidige hendelser. Men hvis man ikke har trent systemet på riktige dataene, eller ikke har gitt det data nok, kan man risikere å komme litt ut å kjøre. Men det kan man jo også hvis man bare gir en lege halvparten av pensum; det ville også gi dårlige resultater.

Trusselen fra kvantedatamaskinen synes heller ikke Morten Middelfart er mye verd.

– Jeg sier ikke at en kvantedatamaskin ikke vil være bedre til å late som om den er intelligent. Men hvis det er de samme algoritmer, de samme prosessorene, som vi bruker i dag, og de som vi har på tegnebrettet, så dreier det som om å Late som om den er intelligent. Med stor L, sa han, og sendte dessuten av sted en stikkpille til en av AI-dystopiens store stemmer, Elon Musk.

– Elon Musk tror at man kan putte en hjerneprotese inn i en menneskehjerne om ti år. Og det er vel å merke før vi overhodet aner hva hjernen vår gjør innen noen som helst vitenskap. Jeg er nødt til å si: La oss være praktiske og snakke om ting slik det de er, og ikke hva vi bare kan finne på.

• Stiftelsen han leder har puslet med teknologien i 20 år. I fjor doblet de driftsresultatet, og nå ansetter de over en lav sko

Brukes for alt den er verd

Morten Middelfart sammenligner diskusjonen om AI-frykt med 2000-tallets snakk om selv-replikerende nanoroboter som ville forvandle hele verden til grå søle.

– Forrige gang jeg sjekket nanoteknologi, fantes det på regntøy og stekepanner. Noen ganger tar ting helt av når vi snakker om slike ting, sa Morten Middelfart.

– Det fine som vi kan gjøre med denne teknologien, er å forsterke oss selv på en måte hvor vi er større enn bare et menneske.

Morten Middelfart bruker her som et eksempel bombeflyet B-2, som er konstruert for å unngå radardeteksjon.

– Det er fullstendig umulig å fly for et menneske. Formen er så ustabil at mennesket ikke kan følge med og foreta alle de korreksjonene som skal til. Hvis datamaskinen bryter sammen, faller flyet ned, forklarer han.

– Men hvis man aksepterer det, kan man fly noe som manøvrerer på helt nye måter og forøvrig er usynlig under visse omstendigheter.

Å akseptere dette, er ikke annerledes enn at så godt som alle virksomheter i dag har akseptert å være hundre prosent avhengig av strøm og datamaskiner, mener Morten Middelfart.

– Vi skylder oss selv virkelig å forstå – som mennesker og som ledere – hvor grensen går for hva kunstig intelligens kan gjøre, og så bruke den for alt den er verd.

– Det er derfor jeg har lyst til at folk skal gå i gang med å tilnærme seg dette. Jo før man går i gang med å tilnærme seg det, desto tidligere forstår man også hvor grensene går. Og dermed blir det ikke bare røverhistorier.

• Norge får superdatamaskin i verdensklasse. – Regnekraften er så stor at det nesten ikke gir mening

Artikkelen har tidligere vært publisert på Datatech. Datatech tilhører Teknologiens Mediehus.