KI-forskere: Dette er veien til superintelligens

Nå som KI-racet pågår for fullt, er det mange som stiller spørsmål ved om teknologien i det hele tatt går i den riktige retningen og hvorvidt den skaleres på den beste måten.

Googles Deepmind-avdeling, som er en av de ledende aktørene på KI-feltet, publiserte for litt siden et dokument hvor det tas til orde for en ny strategi for utvikling av KI-teknologien.

Blant andre nettstedet ZDNet rapporterte om saken.

Læring av erfaring

Dokumentet har tittelen «Welcome to the Era of Experience» og er forfattet av David Silver og Richard S. Sutton, begge erfarne KI-forskere hos Deepmind.

Forskernes hovedtese er at det neste nivået innen KI – og da særlig KI-agenter – krever nytenkning og en ny vei fremover, og stikkordet er «læring av erfaring».

– Vi står på terskelen til en ny æra innen kunstig intelligens som lover å oppnå et enestående nivå av ferdigheter. En ny generasjon agenter vil tilegne seg overmenneskelige evner ved å lære hovedsakelig gjennom erfaring, heter det i introduksjonen.

De to Deepmind-medarbeiderne mener at dagens tilnærming, som hovedsakelig består i å «imitere» menneskelig adferd for å reprodusere menneskelige ferdigheter, ikke kan bringe oss til det som gjerne kalles «superintelligens» – altså KI som overgår menneskelige ferdigheter.

Det hevdes også at dagens KI-løsninger, slik som de store språkmodellene, nærmer seg en grense når det gjelder mengden kunnskap som kan hentes ut fra menneskeskapte data. Forskerne påpeker at mange av de store datakildene av høy kvalitet, allerede har blitt – eller vil snart bli – konsumert.

Må generere sine egne data

Som kjent er de store KI-aktørene stadig og umettelig på jakt etter nye datakilder, deriblant også norsk journalistikk.

Forskerne mener at en ny datakilde for KI-systemer derfor er nødvendig, nemlig å la KI-agenter lage sine sine egne datakilder i en kontinuerlig selvforbedrende prosess.

– Dette kan oppnås ved å la agenter lære kontinuerlig av sin egen erfaring, altså data som genereres når agenten samhandler med omgivelsene. KI står på terskelen til en ny tid der erfaring vil bli det dominerende grunnlaget for forbedring og til slutt overskygge omfanget av menneskelige data som brukes i dagens systemer, skriver forskerne.

De erfaringsbaserte agentene, som forskerne kaller dem, vil fungere litt på samme måte som mennesker, på den måten at de eksisterer i en pågående «strøm» av handlinger og observasjoner som fortsetter i flere år.

Utforsker verden på egen hånd

Informasjonen bæres gjennom hele perioden og brukes til å tilpasse adferd underveis, og brukes til kontinuerlig korrigering og forbedring. Forskerne sier at denne tilnærmingen står i kontrast til dagens KI-modeller, som ofte dreier seg om korte interaksjoner mellom bruker og modell.

Videre, for å kunne generere sine egne data, vil de erfaringsbaserte agentene også være i stand til å aktivt utforske verden på egen hånd, tilpasse seg dynamiske miljøer og oppdage strategier som mennesker ikke ville kommet på.

Forskerne peker på at det allerede skjer fremskritt på dette feltet, med lanseringen av KI-agenter som kan bruke datamaskiner autonomt på samme måte som mennesker. Flere aktører jobber allerede med KI-agenter som har stor grad av autonomi.