Når AI blir demonen i datamaskinen

Filmen iHuman har faglig sett mange mangler, skriver Inga Strümke og Morten Goodwin i denne kronikken.

Morten Goodwin og Inga Strümke synes iHuman er både fengende og spennende, men at den faglig er full av mangler.
Morten Goodwin og Inga Strümke synes iHuman er både fengende og spennende, men at den faglig er full av mangler. (Foto: Privat)

Filmen iHuman har faglig sett mange mangler, skriver Inga Strümke og Morten Goodwin i denne kronikken.

  • Debatt
  • Inga Strümke, PhD i partikkelfysikk og AI-rådgiver i PwC, for NORDE (Norsk Råd for Digital Etikk)
  • Morten Goodwin, PhD, Nestleder Senter for Kunstig Intelligens-forskning Universitetet i Agder, for NORDE (Norsk Råd for Digital Etikk) 

En gang i fremtiden, om ikke så altfor lenge, kommer roboter og kunstig intelligens – AI – til å bli smartere enn oss mennesker. Det vil være blant det siste vi opplever, og robotene vil antagelig utslette oss alle. En slik tenkt teknologi kalles generell kunstig intelligens, eller bare AGI. Det er lov å være redd for AGI, på samme måte som det er lov å være redd for besøk av romvesen med onde hensikter, eller meteor som treffer jorda og utsletter alt liv. Det er lov å være redd for alt dette, men en redsel for AGI og romvesen er like tullete.

Den dystopiske dokumentaren iHuman skremmer oss når den snakker om AGI. Den skulle hatt premiere i disse dager, men kinoene er stengt (ikke på grunn av AGI, men et pandemisk virus). Førpremierene har det vært flust av, og terningkast 5 og 6 rulles hos NRK og Dagbladet. Filmen er både fengende og spennende. Faglig sett er det derimot nok av mangler. 

Har du fått med deg denne? Dokumentarfilm om AI blir tilgjengelig hjemmefra

Den mildt sagt økte oppmerksomheten rundt AI skyldes de enorme fremskrittene de seneste årene. Kort og godt: AI har begynt å virke, og alle som kan tar det i bruk. En ferdig trent algoritme kan brukes til å slå mennesker i sjakk, forutsi hvilken reklame en person vil være svak for, eller oppdage kreftsvulster i bilder. Når de samme type algoritmene brukes til manipulasjon, er det ikke fordi AI har en interesse for å manipulere mennesker, men fordi det finnes en industri som tjener på det, og kan bruke AI til å gjøre det mer effektivt. AI er kun er et verktøy, og vil forbli et verktøy i overskuelig fremtid.

Filmen iHuman fremstiller derimot AGI som et uunngåelig faktum. Dette stemmer ikke! AGI er en mulighet, på samme måte som det er mulig at romvesen plutselig dukker opp. Vi vet simpelthen ikke hvilke og hvor store fremskritt som trengs for å ta steget fra dagens smale intelligente systemer, til en maskinell intelligens som kan forstå og lære på menneskelig nivå. Vi aner ikke om det vil skje de neste ti årene, de neste tusen årene, eller om det er noe vi aldri kommer til å oppleve.

Hvordan kan dette stemme? Filmskaper Tonje Hessen Schei har intervjuet en rekke forskere som snakker om kunstig intelligens, også AGI, og gir et inntrykk av at det er dit menneskeheten er på vei. Det virker som algoritmeballen har begynt å rulle, og at dagens AI-metoder kommer til å kulminere i AGI – og da er det ute med oss alle. Sannheten er at Hessen Schei har intervjuet et knippe utvalg av forskere, som ikke blir motsagt underveis. Følelsene og meningene til disse utvalgte forskerne står uutfordret, innrammet av cyberpunk-effekter og gjort til skremmende god underholdning.

Når Hessen Schei i filmen viser at forskere er redde for AGI, tegner hun et villedende bilde. Langt fra alle astronomer tror romvesen kommer på besøk snart, og langt fra alle AI-forskere tror AGI dukker opp i vår levetid. Filmskaperen har utelatt å intervjue noen av vår tids virkelig store AI-forskere. Ingen fra den geniale AI-trioen som vant Turing-prisen i fjor (dataverdens svar på Nobelprisen), og ingen av hjernene bak de virkelige store forskningsresultatene de siste årene er med i filmen. Unntaket er Ilya Sutskever som var nr. 15 på listen av 19 forskere i lanseringen av algoritmer som løste brettspillet Go. Forskerne som er med i filmen har imponerende CV’er, men vi savner de virkelig store forskerne.

Hessen Schei snakker om mye annet enn AGI også, som overvåking av innbyggere og AI i sosiale medier, men AGI er et gjennomgående tema. Positivismen til professor Jurgen Schmidhuber, som blir intervjuet i filmen, blir blandet med dystopiske scenarier om skumle roboter. Filmskaperen har én fot i science fiction, og én i den virkelige verden. Når vi ser dokumentaren, vet ikke hvilken av dem hun har vekten på. 

iHuman gir en innføring i algoritmer som bruker data til å kjenne oss, overvåke oss og i verste fall manipulere oss - men i stedet for å gi oss verktøy til å ha en opplyst diskusjon om denne utviklingen, eller belyse de positive sidene ved velanvendte algoritmer, sklir filmen over i tvilsomme spekulasjoner om fremtiden. Filmen fokuserer på verst tenkelig, med vekt på tenkelig, scenario.

Algoritmeverden er så mye bedre enn det Hessen Schei gir inntrykk av, og diskusjonen vi må ha er mye nærmere jorden.

Kommentarer (4)

Kommentarer (4)
Til toppen