«Gudfaren av KI»: Hvis ikke vi løser dette problemet, er vi ferdige

KI-utviklingen går vesentlig raskere enn mange, inkludert eksperter, hadde forventet, og det har også medført at kritikerne har blitt mer høyrøstede. Nå har en sentral aktør innen KI-teknologi kommet på banen igjen.

Britiske Geoffrey Hinton regnes av mange som «gudfaren av KI» på grunn av hans viktige bidrag innen maskinlæring, som formet mye av grunnlaget for den moderne KI-teknologien, og som han i fjor mottok Nobelprisen for.

Hinton deltok nylig i industrikonferansen Ai4 i Las Vegas, og i et intervju med nyhetskanalen CNN i etterkant kom mannen med en usedvanlig skarp advarsel.

Vil bygge inn «morsinstinkt»

– De fleste KI-eksperter tror at innen de neste 5–20 årene vil vi utvikle kunstig intelligens som er smartere enn mennesker, og den vil antakelig være langt smartere enn mennesker. Og det finnes svært få eksempler på smarte ting som kontrolleres av mindre smarte ting, sa Hinton og gjentok dermed sitt tidligere budskap om at KI kan komme ut av kontroll.

I intervjuet presenterte Hinton en original visjon for hvordan dette problemet, som mange andre kritikere også har advart mot, potensielt kan løses – nemlig ved å bygge inn et «morsinstinkt» i teknologien.

– Det eneste eksempelet vi kjenner til hvor et smartere vesen kontrolleres av et mindre smart vesen, er en mor som kontrolleres av barnet sitt. Dette skjedde ved at evolusjonen bygget morsinstinkt inn i moren. Hvis ikke vi gjør noe lignende med disse fremmede vesenene vi lager (KI-systemene, journ.anm.), er vi historie, sa Hinton i relativt dramatiske ordelag.

Han legger til at selskapene som utvikler KI-teknologien har neglisjert dette fokuset, og i stedet kun fokusert på å gjøre systemene mer intelligente i et raskt tempo – men intelligens er bare ett av mange aspekter ved et vesen, påpeker Hinton.

Kan vende seg mot mennesker

– Vi må få til dem til å ha empati mot mennesker, og det vet vi ennå ikke hvordan vi skal få til. Evolusjonen klarte det, og da bør vi også klare det, legger han til overfor CNN.

Hinton har tidligere hevdet at det en relativt stor sjanse for at KI-teknologien kan utvikle seg til et punkt hvor den står i fare for å vende seg mot mennesker, et budskap han ettertrykkelig gjentok i intervjuet.

– Hvis vi ikke kan finne en løsning på hvordan vi kan fortsette å eksistere når KI-teknologien er blitt mye smartere enn oss, er vi ferdige, sa Hinton.

Han er ikke alene om dommedagsprofetiene. Som Digi tidligere har rapportert har den ideelle organisasjonen Center for AI Safety for eksempel gått i bresjen for å ta utryddelsesfaren fra KI på alvor.

– Å dempe utryddelsesrisikoen fra KI bør være en global prioritet ved siden av andre samfunnsmessige risikoer som pandemier og atomkrig, lyder et opprop som over 200 eksperter og bransjefolk stiller seg bak – inkludert Hinton selv.

Sentrale personer

Toneangivende personer som Open AI-sjefen Sam Altman, Deepmind-sjefen Demis Hassabis, Anthopic-grunnleggeren Dario Amodei, Bill Gates og mange flere stiller seg også bak oppropet.

Allerede nå har det dukket opp tegn på at KI-teknologien raskt kan bli vanskelig å kontrollere. Anthropic-sjefen Dario Amodei la tidligere i år ut et blogginnlegg hvor han belyste et faktum mange ikke er klar over – nemlig at KI-selskapene selv ikke har full oversikt over hvordan KI-systemene fungerer.

– Folk utenfor fagfeltet blir ofte overrasket og urolige når de får vite at vi ikke forstår hvordan våre egne KI-kreasjoner fungerer. Det er all grunn til bekymring: Denne mangelen på forståelse er i stor grad uten sidestykke i teknologiens historie, skrev Amodei.

I noen tilfeller har KI-systemer til og med trosset menneskelige intensjoner, som da Anthropics Claude-modell truet med utpressing etter å ha blitt fortalt at den ville bli stengt ned.