Tydal gir en million GPU-timer til NTNU og Simula

– Dette er minst tre ganger så mye som vi har brukt til å trene de største norske språkmodellene, sa Per Thomas Martin Tybell, dekan ved faktultet for informasjonsteknologi og elektronikk ved NTNU da styreleder Haakon Bryhni ved Tydal Data Centre hadde kunngjort at NTNU og Simula får 500.000 GPU-timer hver i gave.

Verdien av disse én million GPU-timene er oppgitt å være 100 millioner kroner. Bryhni lover for øvrig å dele ut ytterligere en million GPU-timer seinere til mer forskning, innovasjon og utvikling av nye KI-løsninger i Norge.

Også Simula-direktør Lillian Røstad takket og berømmet Tydal Data Center og Haakon Bryhni for at de tenker på hvordan de kan bidra til verdiskapningen i Norge.

– For at Simula skal kunne gjøre det vi skal, er vi avhengig av beregningskraft. Denne gaven er utrolig viktig for oss, sa Røstad.

SimulaMet-sjef Klas Pettersen var ikke mindre fornøyd og pekte på at store prosjekter krever mye datakraft.

– Vi tester det som blir Norges KI-infrastruktur. En sånn gave muliggjør prosjekter av en helt annen dimensjon enn før. Nå må vi sette oss ned og gjøre noe som virkelig har nasjonal og internasjonal viktighet, sa han.

Hva er så en GPU-time. Bryhni forklarer at det er å ha en GPU tilgjengelig i en time. I dette tilfellet de raskeste GPU-er som finnes. GPU står for grafisk prosesseringsenhet, men i denne sammenhengen er det greit å se på det som en kraftig datamaskin som egner seg for å trene kunstig intelligens.

Sine egne læresteder

Bryhni har sjøl studert ved NTNU og tatt en doktorgrad ved Simula. Han er for øvrig professor ved SimulaMet.

Polyteknisk forening var vertskap for seansen under Arendalsuka, der kunngjøringen av vinnerne av GPU-tiden skjedde tirsdag kveld.

Bryhni fortalte om arbeidet med den 45 milliarder kroner store kontrakten med Volta. Fortsatt kan han ikke kommentere hvem Voltas kunde er, men internasjonale medier mener å vite at det er KI-selskapet Anthropic.

Han beskrev prosessen fra kjøpet av ei tomt i ei lita fjellbygd mellom Røros og Trondheim, med få innbyggere og mye vannkraft. Første kunde var Singapore-selskapet Bitdeer, som seinere kjøpte datasenteret fra Bryhni og forretningspartneren Lars Naas.

Dell leverer GPU-ene, som heter Nvidia Vera Rubin NVL-72, og som skal bruke to tredjedeler av energien. Den store kontrakten har gitt finansiering til at Tydal Data Center selv kan kjøpe Nvidia-GPU-er for den siste tredjedelen av kraften på 180 megawatt. Det er fortsatt et stort datasenter.

Størst i Europa

– Etter det jeg kjenner til, blir vi det største datasenteret i Europa når dette står ferdig. Vi kommer til å bli forbigått av de store som Microsoft og Google, men foreløpig er vi størst, sa en tydelig stolt Bryhni.

Han fortalte at kostnadene knyttet til GPU-ene er omtrent ti ganger det de betaler for kjøleinfrastruktur, strøm, sikkerhet og fibersamband. Fortsatt har han ikke tallfestet investeringene, annet enn at det er snakk om mange milliarder kroner.

– Nettverket vi bygger har 250.000 single mode fiberkabler som håndterer 800 gigabit per sekund overføring. Det betyr at det fungerer som en stor maskin som kan jobbe sammen om store operasjoner.

– Det er utrolig gøy for meg som ingeniør å få være med på å bygge en så stor datamaskin, sa Bryhni.

Vannkjøling = mat

En egenskap de nye GPU-rackene fra Nvidia har, er at de fungerer på 100 grader celsius. Vannkjølingen gir ekstremt effektiv utnyttelse av energien, så god at kun 10 prosent av kraften går til annet enn å produsere KI-tjenester.

Det varme vannet som kjøler GPU-ene sier Bryhni de vil levere gratis til en 112.000 kvadratmeter tomt som kommunen opparbeider i nærheten av datasenteret. Der er planen å produsere karbon via pyrolyse, varme opp drivhus og bygge fiskeoppdrett. Målet er at all kraften skal brukes til produksjon, mye av det til mat. Karbonet kan eksempelvis brukes til jordforbedring eller til stålproduksjon.

– Hver kilowattime skal komme tilbake som agurker, tomater og CO2-besparelser. Det er målet. Vi ser også at det blir mulig å holde stabil temperatur hele vinteren. Da blir strømmen til matproduksjon, og vi kan stå med rak rygg, sier han.

– Vi er veldig glade for å få gi litt tilbake til samfunnet, sier Bryhni, som for øvrig fortalte at den eneste pengestøtten de har fått fra det offentlige, er 75.000 fra Enova for å levere varme til et eldresenter.

Raskere GPUer

I en panelsamtale med Torgeir Waterhouse i Otte og Jarand Byrkjeland, leder av Nito-studentene, sa Bryhni at de GPU-ene Simula og NTNU nå får bruke, er betydelig nyere og raskere enn de prosessorene de to har i kjellerne sine i dag.

– Regjeringen brukte vanvittig mye tid på å fortelle om sin KI-milliard. Nå gir Tydal Data Center ti prosent av det regjeringen har satt av til KI. Det vi må gjøre nå er å hjelpe samfunnet og politikerne til å forstå konsekvensene av teknologien. At maskinene kan redde liv, eller gjøre menneskers liv bedre, sier Waterhouse.

Byrkjeland ønsker et fokus på å få kompetansen videreført og liker dårlig at KI erstatter juniorstillinger. Da han etterspurte lærlingeplasser kunne Bryhni – sjøl en godkjent lærer i lærlingeordningen – forteller at de allerede har uteksaminert den første lærlingen. – Det skal vi fortsette med, erklærte han.

Vil ha gjenbrukskrav

Bryhni slo også et slag for noe han har snakket varmt om i flere år: Å sikre at Norge har infrastrukturer som gjør oss uavhengige av andre land. Da er både datasentre og kompetanse en del av det som trengs.

Byrkjeland pekte på at datasentre og kraft er en del av kritisk infrastruktur, og sa at Tydal må få krav på seg til å forvalte kraften godt. Det er Bryhni helt enig i.

– Datasentre bør være regulert. Jeg mener det er en moralsk forpliktelse til å arbeide for gjenbruk. En rack GPU-er leverer tjenester samtidig som det kan levere mat. Dette er ikke krav i dag. Det kreves kun at man utreder gjenbruk. Det synes jeg er dumt, sa Bryhni.