Ser på superintelligens som en bløff fra Silicon Valley

Robert Engels (56) har ingen tro på en framvekst av kunstig generell intelligens eller superintelligens, som noen kaller det.

Ideen om kognitive maskiner, som kan resonnere og tenke, er science fiction. Det er rent oppspinn at dagens KI-modeller kan utvikles videre til noe som ligner, mener han.

Engels uttaler seg etter at Teknologirådet i en rapport til Stortinget har advart at slik teknologi snart kan bli virkelig.

– Det er bare tull. Det er ikke definert verken hva kunstig eller intelligens egentlig er, og da gir det heller ikke mening å snakke om en kunstig generell intelligens, sier Engels.

Han er en av Norges fremste KI-eksperter. Han tok doktorgrad i kunstig intelligens ved universitetet i Karlsruhe i forrige årtusen, før mange hadde hørt om internett.

I dag leder han KI-laben til Capgemini globalt, en fransk IT-kjempe med 350.000 ansatte verden over. Det betyr at han rapporterer direkte til ledelsen i Paris.

Tror ikke på superintelligens

Kunstig generell intelligens beskrives ofte som en teknologi som kan løse hvilken som helst intellektuell oppgave et menneske kan. Engels mener det er en feilslutning.

Han trekker paralleller til menneskeheten: – Når vi snakker om generell intelligens hos mennesker, snakker vi om milliarder av enkeltindivider – hver med sin egen form for intelligens. Det er ikke én samlet, allvitende bevissthet.

Silicon Valley har konstruert en myte om én teknologi som kan alt. Det gir ingen mening, sier han.

I stedet understreker han at dagens KI-modeller – som GPT-4 fra OpenAI, Claude fra Anthropic, Gemini fra Google og LLaMA fra Meta – baserer seg på statistikk og mønstergjenkjenning, ikke ekte resonnering eller forståelse.

– Disse modellene «gjetter» neste ord, eller neste bildepunkt, basert på sannsynlighet. Det er ikke tankegang eller forståelse. Å si at de resonnerer er feil – de driver med inferens.

Kritisk til sensasjonsmakeri fra Silicon Valley

Engels mener at utspill om nærstående superintelligens eller maskiner som tenker er preget av økonomiske interesser.

– Det er ren hype og markedsmakt. Hyperskalere som lukter blod. Open AI hadde suksess med Chat GPT, Microsoft investerte ti milliarder dollar, og plutselig så de en mulighet til å utfordre Google, sier KI-eksperten.

Han mener at påstander fra profilerte aktører som Demis Hassabis, sjef for Google Deepmind – som har hevdet at KGI kan være et faktum innen 2030 – er høyst spekulative og langt fra fri for egeninteresse.

– Elon Musk har sagt vi skal få selvkjørende biler hvert år siden 2014. Det har ikke skjedd. Sam Altmans definisjon av KGI er knyttet til det vi kan kommersialisere i en bedrift. Alle oppgaver som er kommersielt interessante, eller noe sånt. Da kan det hende du har en slags “KGI” om fem år. Men de som påstår at vi får enmannsbedrifter som ved hjelp av KI oppnår status som enhjørninger (private selskap verdsatt til én milliard dollar), det har jeg ingen tro på.

Selv avviser han kontant å diskutere KGI med egne kunder.

– Jeg stopper det med en gang. Det er Silicon Valley-prat.

Engels presiserer at han ikke er imot å diskutere KGI mer generelt – tvert imot, han synes temaet er både spennende og filosofisk interessant.

– Men jeg kjøper ikke Silicon Valley-visjonen. Den blir ofte tatt på kundemøter, og da setter jeg foten ned.

Dette imponerer ham: – Ekte superkraft

Selv om han avviser KGI gjennom skalering av dagens teknologi, er det flere framskritt som har imponert ham. Engels peker på områder der kunstig intelligens har gjort reelle gjennombrudd:

– Multimodalitet, altså evnen til å håndtere både tekst, bilde, lyd og video i samme modell, er det mest imponerende jeg har sett. Det er en ekte superkraft, sier han.

– Flerspråklighet er også en vanvittig evne. Jeg snakker fire språk daglig med feil og gebrokken uttale, men modellene forstår meg likevel. Da jeg så det første gang, tenkte jeg: Dette er begynnelsen på slutten for tastaturet.

Han trekker også fram effektiv bruk av begrensede ressurser, slik som det kinesiske selskapet Deepseek skal ha gjort.

– De har byttet ut ressurskrevende FP32-beregninger med FP8, og forbedret tokeniseringen. Ikke revolusjonerende, men smart og effektivt. Det viser at ikke alt handler om milliarder i investeringer, mener Engels.

Ser på agentisk KI som gammelt nytt

Teknolologirådet har observert at det antas å komme modeller som kan yte på Ph.D.-nivå, som er «agentiske» og egnet til en slags planlegging og utførelse. Hovedbudskapet er at utviklingen på slike områder har skutt fart.

– Dette er mer et budskap om automatisering enn KI. La oss heller ta et skritt tilbake og lage en automatiserings-strategi, foreslår Engels.

Agentisk KI refererer til kunstig intelligens-systemer som kan ta selvstendige beslutninger og utføre handlinger med en viss grad av autonomi.

– Jeg kaller det RPA på steroider (se forklaring under). Man tar agentiske systemer og tilfører mer autonomi enn tidligere. Den store endringen er overgangen fra regelbasert og deterministisk atferd til systemer som får langt bredere handlingsrom, drevet av generativ KI. Og som vi har sett, er denne teknologien ikke-deterministisk. Utfallet blir vanskelig å forutsi uten at man legger inn tydelige "checks and balances" for slike systemer.

Forkortelsen han sikter til er et eget fagområde, robotisert prosessautomasjon. RPA handler om å bruke programvare til å automatisere regelbaserte, repeterende oppgaver som tidligere ble utført av mennesker på datamaskiner. Som å klikke på knapper, fylle ut skjema, kopiere data fra ett system til et annet. Skjermskraping og makroer er flere tiår gammel teknologi.

Agentisk KI representerer også, ifølge Engels, lite nytt. Det er basert på teknologi vi har hatt rundt oss lenge.

– Hos kunder som har implementert RPA er ting automatisert til en viss grad. Dette kan hjelpe med å fylle ut skjemaer, eller bestille flybilletter for deg, for eksempel. Problemet med generell KI er konteksten. Modellene kan ikke den virkelige verden godt nok. I laben oppnår du kanskje 98 prosent kvalitet, men så går det galt i den ekte verden fordi konteksten ikke blir gjenkjent. Dette skjer med selvkjørende biler og i Nederland falt en hel regjering over sånne feil. Den regjeringskrisen skyldtes at folk ble diskriminert med feil etternavn av en kunstig intelligens.

Hvordan kan du hindre dette? Du har to muligheter, mener han. Det ene er å bygge inn sikkerhetsmekanismer.

– I en fabrikk kan du gjerne avgrense det fysiske rommet, eller du kan begrense konteksten til det du stoler på. Det å gjøre dette i en bedrift kan jeg like. Google snakker om en KI som kan forutsi og beregne hvilken effekt medisin har på proteiner. Årsaken til at dette fungerer så bra, er at modeller kjenner hele det begrensede området. Det kan du ikke med selvkjørende biler og mange andre ting.

Risikabel teknologi

Selv om han ikke tror på en KI som overgår all menneskelig intelligens, deler han bekymringen for misbruk.

Teknologirådet viser til at land som Storbritannia, Japan og Canada har egne KI-sikkerhetsinstitutter som blant annet vurderer risiko for biologiske våpen og cyberangrep. De mener Norge bør følge etter og inngå internasjonalt samarbeid.

– Jeg er helt enig. Det er mye problematisk ved denne teknologien, og den innebærer risiko på flere fronter.

Han peker på farer som manipulering av resultater, utvikling av våpen, lekkasje av sensitiv informasjon og mulig hacking.

– Vi har allerede sett tilfeller, som da Samsungs kildekode lekket via Chat GPT. Selv uten direkte tilgang kan modeller indirekte avsløre sensitiv informasjon. Alle modeller kan potensielt hackes på kort tid, og dagens sikkerhetsbarrierer er ikke sterke nok.

Han advarer også mot selve modellfilene:

– Det finnes mange problemer vi ennå ikke har full oversikt over. Modellene i seg selv kan brukes til å «injisere» skadevare i generert kode, og det er til og med mulig å infisere datamaskiner via skadevare som er skjult i selve modellbeskrivelsen – altså vektene – dersom modellen lastes ned og kjøres lokalt.

Hvorvidt det bør opprettes egne sikkerhetsinstitutter for å håndtere slike problemstillinger, vil han ikke mene noe om.

– Men at myndighetene må forstå hva som skjer, er jeg helt enig i. Det støtter jeg sterkt, sier Robert Engels.