«Sterk KI» kan snart bli virkelighet, advarer Teknologirådet

Vi må forberede oss på kunstig generell intelligens (KGI), mener Tore Tennøe i Teknologirådet. Han tror en sterk KI er på vei.

Rask utvikling gjør at dette teknologiske framskrittet kan være få år unna. Det skriver Teknologirådet i sin ferske rapport om teknologitrender til Stortinget, som ble overlevert på mandag.

Farene for misbruk, for eksempel utvikling av biologiske våpen eller cyberangrep, blir allerede kartlagt i land som Storbritannia, Japan og Canada, som har egne sikkerhetsinstitutter for KI, ifølge rapporten.

Fra fiksjon til sannsynlig

Under et åpent nettmøte i Stortingets teknologigruppe ble det mer enn antydet at en kunstig generell intelligens kommer, kanskje innen fem år.

– Det kommer fortere enn vi trodde. Det som kunne virke som fiksjon, må vi nå tenke på som en sannsynlig utvikling, sier Tore Tennøe, direktør for Teknologirådet til Digi.

Han snakker om en teknologi som løser ekte oppgaver og gjør forskning på «nobelprisnivå». Det vil gi oss enorme muligheter, men også risiko.

Digi la ikke merke til noe forbehold da Tennøe innledet om den snarlige framveksten av det han kaller «sterk» kunstig intelligens. Det er et syn ikke alle deler.

– Det er helt riktig å ha en diskusjon om hypen, men én ting er hva de sier. Noe annet er hva vi ser av modellene, utdyper han etterpå.

Tennøe viser til de resonnerende språkmodellene som ble lansert i høst fra Open AI, o1 og o3. Han nevner også kinesiske Deepseek, som skal ha utviklet modeller med langt mindre ressurser.

– Det betyr at det nå er langt flere som er med i intelligenskonkurransen, argumenterer han.

Tennøe nevner også Demis Hassabis, medgründer av Google Deepmind, som i høst fikk nobelprisen i kjemi (sammen med David Baker og John M. Jumper), for arbeid med å forutsi proteinstrukturer ved hjelp av kunstig intelligens.

Hassabis har uttalt at det er 50 prosent sannsynlighet for at kunstig generell intelligens vil bli utviklet innen fem år, altså innen 2030.

– Ikke bare på høyde med mennesker i tester, men han ser for seg en kapasitet for gjennombrudd på nivå med Einstein. Når det er sagt, er det ingen ting som er sikkert, medgir Tore Tennøe.

Han har også observert at det antas å komme modeller på doktorgradsnivå, som er «agentiske» og egnet til en slags planlegging og utførelse av oppgaver.

– Hovedbudskapet er at her har utviklingen skutt fart. Det vokser ut fra resonnering, og da sier vi til politikerne at dette er noe vi må begynne å ta høyde for og planlegge for at vil skje, sier Teknologirådets direktør.

Advarer om stor risiko

– Hva mener du politikerne må gjøre?

– Vi må antakelig bli mer ambisiøse. Disse modellene blir kraftigere og mer forutsigbare, og vi må bygge en infrastruktur for det. Deepseek viser at mindre land kan konkurrere på toppnivå. Men dette gir også stor risiko, og vi må ha gode scenarier for hvordan utviklingen vil påvirke oss. Sikkerhetsarbeidet er viktig.

Teknologirådet foreslår at det etableres et norsk sikkerhetsinstitutt for kunstig intelligens, etter mønster fra Storbritannia, Japan og Canada.

– Vi må samarbeide internasjonalt. Rammeverkene våre i Europa er under press, og i USA blir sikkerhet nedprioritert til fordel for teknologiske muligheter, mener Tennøe.

– Tror du maskiner vil begynne å tenke sjæl?

– Det er det store spørsmålet. Vi ser allerede KI som kan resonnere, planlegge og handle digitalt.

– Noen mener KGI aldri vil komme?

– Kanskje har de rett, men vi må forberede oss på at de tar feil. Utviklingen går raskt, og vi må diskutere konsekvensene nå, påpeker Tennøe.

Omstridt

KGI er et omstridt tema. Digi kommer tilbake med et lengre intervju med en av Norges fremste KI-eksperter, som er dypt uenig med Teknologirådet om at slik teknologi er på vei.