– Ingen i mitt nettverk har tilsvarende regnekraft

I Grimstad har professor Ole-Christopher Granmo startet en stille revolusjon med sin oppfinnelse, Tsetlin-maskinen. Den fremstår som en banebrytende KI-modell basert på teorier fra den avdøde russiske matematikeren Michael Lvovitch Tsetlin.

Modellen brukes nå ved flere forskningssentre internasjonalt, og både forskningen og de praktiske anvendelsene har gjort store fremskritt siden sist vi intervjuet Granmo ved Universitetet i Agder (UiA).

Tallknuser av rang

I 2019 investerte UiA i en superdatamaskin i verdensklasse for KI-forskning. Nå supplert med seks Nvidia DGX H100 GPU-servere, leverer systemet en total ytelse på 208 petaflops, skreddersydd for maskinlæring.

– Ingen i mitt nettverk har tilsvarende regnekraft, sier professor Ole-Christopher Granmo, som ser for seg enda høyere ytelse i fremtiden.

Den enorme kapasiteten lar forskerne gjennomføre større eksperimenter og akselererer forskningen betydelig.

– I stedet for å vente i uker, kan vi utfordre og drive forskningen videre hver andre time. Det gjør oss langt mer effektive, konstaterer Granmo.

Superdatamaskinen er bygd opp over tid, med over 50 millioner kroner investert i maskinvare. De første GPU-ene fra Nvidia kostet rundt 25 millioner, mens nyere, kraftigere maskiner ble kjøpt inn i 2022 og i år.

– Universitetet har vist fremtidstro og satset strategisk på KI, med støtte fra næringslivet. Sparebanken Sør bidro med 27 millioner kroner, som sikret de fire siste maskinene, forklarer Granmo.

I en annen liga

Granmo innrømmer at det er vanskelig å fatte den enorme beregningskapasiteten superdatamaskinen har, som muliggjør bygging av større KI-modeller og analyse av massive datamengder.

– Vi kan ikke måle oss med «big tech» som Open AI og Meta, men utenfor den ligaen er vi svært godt rustet. Faktisk låner forskere fra USA og Europa vår regnekraft, fordi de ikke har tilsvarende selv, avslører han.

1000 ganger raskere

Fysisk utstyr er essensielt for KI-utvikling, da mer data og større modeller gir mer nøyaktige resultater, men krever betydelig regnekraft.

Granmo påpeker imidlertid at teknologigigantenes tro på ubegrenset gevinst fra økt datakraft er overdrevet.

– Nøyaktigheten flater ut etter et visst punkt. Bedre algoritmer gir derimot store fremskritt, sier han.

Tsetlin-maskinen er et slikt eksempel, med modeller opptil 1000 ganger raskere og 10.000 ganger mer energieffektive enn tradisjonelle nevrale nettverk.

– Denne oppfinnelsen har skapt et internasjonalt forskningsmiljø og gir oss en reell sjanse til å ta igjen «big tech». Det er et kappløp, sier Granmo.

Nanomaskiner

KI-modeller som er tusen ganger raskere eller mer energieffektive, kan gi fortrinn i ulike sammenhenger. For eksempel innen finans og algoritmisk handel av aksjer, forteller Granmo.

– Prototyper viser at Tsetlin-maskinen bruker så lite energi at den kan kjøres på solenergi og være selvforsynt. Da kan man se for seg intelligente sensorer, som aldri trenger lading, og som kan detektere jammeangrep for å beskytte nasjonal infrastruktur. Eller innen helse å overvåke vitale parametre med enheter som er uavhengige av ekstern strømtilførsel.

– Mener du på innsiden av kroppen?

– Vi er ikke der ennå, men vi jobber også med nanomaskiner med ørsmå Tsetlin-maskiner. Det skjer spennende forskning på feltet, men ikke hos oss. Det foregår andre steder i verden.

Hjertemodeller

Forskningen på kunstig intelligens ved UiA er ikke bare grunnforskning, men skal også resultere i praktiske løsninger på praktiske problemer.

Granmo har tidligere sagt at målet er å skape resultater som endrer samfunnet. Hvordan synes han at det går så langt?

– Det har gått over all forventning. I 2018 publiserte jeg Tsetlin-maskinen, men jeg kunne aldri ha forutsett dens betydning. For eksempel brukes den nå av et sykehus i Kina til å gjenkjenne hjertesykdom på en måte som er forståelig for leger. Resultatene er transparente, ikke en «sort boks» som med nevrale nettverk, og minst like nøyaktige, sier han.

Fortsatt er vi bare i startgropa når det gjelder å avdekke oppfinnelsens potensial, ifølge Granmo.

– Det er spennende å se anvendelsene i helsesektoren, finans, nasjonal infrastruktur, egentlig overalt.

Egne KI-brikker

Den britiske brikkeoppstarten Literal Labs, basert på Granmos oppfinnelse, har sikret over 70 millioner kroner i risikokapital. Selskapet, spunnet ut fra Newcastle University, ledes av tidligere ARM-sjefer med solid bransjeerfaring.

– Samarbeidet med Literal Labs betyr mye, spesielt fordi de har egen Tsetlin-maskinvare, som gjør at vi får full effekt av Tsetlin-maskinen, sa Granmo i et intervju med Fædrelandsvennen tidligere i høst.

I en sak 30. oktober tok avisa kontakt med forskere ved NTNU og Universitetet i Oslo. Ingen hadde nok kjennskap til teknologien til å kommentere.

«Big tech» har et betydelig forsprang med dyp læring, men Tsetlin-maskinen er under utvikling og allerede kjent blant mange i miljøet, svarer Granmo. Han er overbevist om at det kun er et tidsspørsmål før flere selskaper tar teknologien i bruk.

Vil overgå Chat GPT

Kan Tsetlin-maskinen konkurrere med Chat GPT og andre generative KI-modeller?

– Ikke ennå. Vi har fortsatt uløste utfordringer med å håndtere store mengder språk, men målet er å utvikle en logisk, gjennomsiktig og forståelig stor språkmodell på sikt, sier Granmo til Digi.

– Hvor langt unna er dere?

– Det spennende med forskning er at vi ikke vet når gjennombruddet kommer – det kan skje neste måned eller om et par år. Men alt jeg har sett overbeviser meg om at det er mulig. Vi skal ikke bare matche, men overgå dagens store språkmodeller, sier Granmo.

Han forklarer visjonen: I stedet for en «sort boks» med uforståelige modeller og billioner av parametere, vil han skape en forståelig, modulær KI.

– Modellen skal bygge kunnskap som en forsker, ved hjelp av små, gjenbrukbare byggesteiner som løser komplekse oppgaver sammen. Det er en helt annen tilnærming enn de store språkmodellene, sier han.

Imponert minister

En som lar seg begeistre over den norske teknologien er forskningsminister Oddmund Hoel (Sp), som selv besøkte campus Grimstad i slutten av november.

– Det var virkelig fascinerende å høre om oppfinnelsen til Granmo, og inspirerende å besøke KI-satsingen til Universitetet i Agder i Grimstad. For Norge er det helt avgjørende at vi har kunnskap, forskning og infrastruktur til å forstå, utvikle og ta i bruk kunstig intelligens på en trygg måte, sier Oddmund Hoel til Digi.

Han peker på at regjeringen også derfor satser stort på dette feltet.

– Vi har satt av én milliard til KI-forskning de neste årene, og investerer i nødvendig infrastruktur som superdatamaskiner. Heldigvis har vi mange sterke forskningsmiljøer innen KI, som ved UiA, å bygge på når vi ruster Norge for en fremtid der den teknologiske utviklingen går veldig fort, sier statsråden.