Norske NorwAI presenterte en førpremiere på NorGPT på Arendalsuka torsdag ettermiddag. NorGPT er en generativ språkmodell utviklet av forskere på NTNU, sammen med en rekke industriaktører.
Kommunal- og distriktsminister Sigbjørn Gjelsvik (Sp) hyller initiativet og den norske satsingen på kunstig intelligens, men kan ikke love penger til prosjektet.
Nettopp ferdig
Den største modellen ble ferdig for bare 14 dager siden, forteller Jon Atle Gulla, direktør for NorwAI og professor ved Institutt for datateknologi og informatikk på NTNU. Modellen er basert på 23 milliarder parametere og har blant annet hentet data fra Nasjonalbiblioteket og hele Schibsteds artikkelkatalog.
Gulla forteller til Digi at de håper de å ha en pilot klar hos noen industripartnere neste sommer. Det er likevel mye arbeid som gjenstår, og videreutviklingen av NorGPT vil kreve svært mye ressurser.

Tar og gir
Prosesseringen av den siste modellen har tatt mye ressurser fra superdatamaskinen Idun på NTNU og dermed fra annen forskning. Gulla forteller at prosesseringen av språkmodellen har krevd alle de 28 kraftigste grafikkprosessorene (GPU) i Idun i flere måneder.
Nå er prosjektet i gang med en ny modell som øker antallet parametere fra 23 milliarder til 40 milliarder. Med et så stort datasett ville det tatt dobbelt så lang tid å prosessere. Derfor har prosjektet sammen med NTNU nå økt antall kraftige GPU-er som er i bruk, fra dagens 28 til 60.
Skal modellen bli brukt ut over forskningsstadiet som det er på nå, må de ifølge Gulla bygge opp en organisasjon med egne maskiner og ansatte. Han anslår grovt at det vil koste rundt én milliard norske kroner.

Kommunal- og distriktsminister Sigbjørn Gjelsvik ser på prosjektet med stor entusiasme og sier til Digi at de nå lytter til det som blir presentert. Han sier det er viktig med norskutviklede løsninger av og for norske aktører. Han vil likevel ikke love mer penger til prosjektet ennå.