En av verdens fremste forskere på kunstig intelligens (KI) frykter at menneskeheten kan utslettes innen ti år hvis KI-systemer kommer ut av kontroll.

Yoshua Bengio kom med den dramatiske advarselen da han presenterte en omfattende rapport om KI og risiko torsdag.

– Hvis ikke myndigheter griper inn, så vet jeg ikke hvordan vi skal komme oss gjennom dette, sa Bengio på eliteuniversitetet École normale supérieure (ENS) i Paris.

Han etterlyste strengere regulering og mer forskning på kunstig intelligens og sikkerhet.

Farlige våpen

Noen utfordringer knyttet til KI er vel kjent. Blant annet kan teknologien brukes til å spre desinformasjon på nett.

En del er også bekymret for at KI vil erstatte arbeidstakere og fjerne arbeidsplasser raskere enn nye arbeidsplasser skapes.

Men Bengio peker også på helt andre farer – som at KI kan gjøre det lettere å lage kjemiske våpen og dødelige mikroorganismer.

Ifølge den nye rapporten kan KI utarbeide stegvise planer for å lage slike stoffer og mikrober. Det er uklart om teknologien også kan håndtere mer praktiske utfordringer ved våpenproduksjon.

Vilje til å overleve?

På lengre sikt frykter Bengio at mennesker skal miste kontrollen over KI-systemer hvis de utvikler en egen «vilje til å overleve».

– Det som skremmer meg mest, er muligheten for at menneskeheten kan forsvinne innen ti år, sier Bengio, som er professor ved Universitetet i Montreal i Canada.

Om lag hundre eksperter fra 30 land har deltatt i arbeidet med International AI Safety Report. Arbeidet har vært ledet av Bengio.

Han omtales ofte som en av tre « gudfedre» bak utviklingen av kunstig intelligens (KI). De to andre er Geoffrey Hinton og Yann LeCun.

Medisinske framskritt

Hinton fikk i fjor nobelprisen i fysikk og deler Bengios bekymring. LeCun, som leder KI-utviklingen til Facebook-eier Meta, mener bekymringen er overdrevet.

Mer optimistiske scenarioer for kunstig intelligens dreier seg blant annet om medisinsk forskning. På dette feltet har KI allerede bidratt til store framskritt.

Samme dag som Bengio kom med sin advarsel i Paris, erklærte De forente arabiske emirater at de vil investere opptil 50 milliarder euro i et stort KI-datasenter i Frankrike.

I forrige uke fikk kinesiske DeepSeek stor oppmerksomhet for sin KI-modell. Den økte tempoet i KI-kappløpet, noe som ifølge Bengio er uheldig i et sikkerhetsperspektiv.