Bygget ut Norges kraftigste datamaskin med 50 prosent – kapasiteten er sprengt

31. mars i fjor ble Norges nyeste superdatamaskin, Olivia, pakket ut av kassene Hewlett-Packard hadde sendt den i til Lefdal Mine Data Center i Nordfjordeid.

I midten av juni var den klar til prøvekjøring, og i løpet av høsten kunne eieren, Sigma2, la den tas i bruk av forskere og næringsliv med behov for tungregning og KI-oppgaver.

Og etterspørselen var massiv etter å få bruke en KI-beregningsevne som er 25 ganger større enn den samlede kapasiteten Sigma2 hadde hatt før Olivia ble slått på.

Innen året var omme, var det klart at kapasiteten var sprengt, og enkelte prosjekter måtte krympes for at alle som ville bruke Olivia skulle få plass, fortalte leder for Nasjonalt kompetansesenter for tungregning, Roger Kvam, til TUs podcast Teknisk sett i fjor høst.

Vil redde pasienter

Administrerende direktør i Sigma2, Hildegunn Vada, gir oss tre prosjekter når vi ber henne om praktiske eksempler på prosjekter som ikke hadde latt seg gjennomføre uten tilgang på Olivia.

Det første prosjektet hun trekker fram handler om å bruke datakraft til å hjelpe kirurger med å unngå at pulsåren i magen sprekker når de opererer en aneurisme. Vanligvis overlever bare rundt 30 prosent av pasientene en slik hendelse, og for å redde flere liv er det viktig at kirurger vet nøyaktig hva de har å gjøre med før de opererer.

KI-analyserte MR-bilder av den syke blodåren gjør det mulig å lage en datamodell som simulerer hvordan blodet strømmer gjennom åren – og hvor den er mest utsatt for å sprekke.

Olivia gjør denne typen beregning fem ganger raskere enn de andre superdatamaskinene i Norge.

Tanken er at hele prosessen, fra MR-bilde til ferdig analyse, skal skje automatisk og raskt nok til å være nyttig i en akuttsituasjon.

I prosjekt nummer to – Go Hydro – prøver Sintef Energi å finne raskere og mer presise måter å planlegge vannkraftproduksjon på ved hjelp av GPU-er og historiske data fra de siste 85 årenes vannkraftproduksjon. Olivia gjør det mulig å simulere mange flere scenarier og ta bedre beslutninger i kraftsystemet.

For dette spesifikke brukstilfellet var Olivia 800 ganger raskere enn det forskerne hadde tilgang til ellers. Sammenlignet med tidligere metoder, har kjøretiden blitt redusert fra minutter til sekunder.

Et typisk optimaliseringsproblem med tre-timers oppløsning som tidligere tok rundt 100 sekunder, kan kjøres på Olivia på litt over to sekunder. Med en-times oppløsning går kjøretiden ned fra ca. 17 minutter til under fem sekunder.

Det tredje prosjektet har gjort at agritech-selskapet Digifarm er blitt den nest største GPU-brukeren på Olivia-systemet. Ved hjelp av Olivia bruker det norske selskapet en modell som analyserer hvert enkelt piksel i et satellittbilde for å finne nøyaktige åkergrenser, og beregne nøyaktig hvor mye såkorn og gjødsel som trengs.

Tilgangen til Olivia gjør at utviklingssyklusen kortes kraftig ned. Det som tidligere kunne ta uker eller måneder, kan nå gjøres på timer.

Kartlegger behovet

Mange hadde behov for å utnytte Olivia på lignende vis. I februar var etterspørselen etter KI-beregninger blitt så stor at Sigma2 gjennomførte en 50 prosents oppgradering av GPU-kapasiteten. Idag har Olivia 448 GPU-prosessorer under panseret.

Etter utvidelsen er Olivias KI-beregningsevne 25 ganger større enn det samlede nasjonale tilbudet Sigma 2 hadde før Olivia.

Men nå er også den nye kapasiteten sprengt, forteller Vada.

– Olivia er jo kjøpt inn som en maskin som skal kunne utvides i takt med behovet, men akkurat nå er etterspørelen større enn finansieringa, sier hun.

Det nærmer seg også grensen for hvor mye Olivia kan utvides. Innenfor dagens kontrakt kan den utvides enda litt; inntil 528 GPUer og med 119.808 CPU-kjerner i tillegg til de 64.512 den hadde ved levering.

– Mulighetene for å utvide Olivia avhenger helt av hva man ønsker å skalere av CPU- og GPU-kapasitet. Dagens GPU-er er svært kraftige og godt egnet til trening av KI-modeller, men kan være mer kapasitet enn nødvendig når modellen skal brukes i praksis. Det sentrale spørsmålet er derfor hvilket behov vi faktisk får fremover, og det holder vi på med å kartlegge nå.

Skal kjøpe ny superdatamaskin

Sigma2 er også i gang med å planlegge innkjøp av en helt ny supedatamaskin. Det blir en CPU-basert maskin som skal rettes mot tungregning mer enn KI-oppgaver. Den har dermed mer til felles med Sigma2s andre superdatamaskin, Betzy, som står i Trondheim, og nærmer seg pensjonsalder.

Olivia kostet 225 millioner da den ble kjøpt i fjor, men Vada forteller at prisen på nye Betzy ikke er klar.

– Vi har ikke et konkret budsjett for neste generasjon Betzy ennå fordi endelig behov og størrelse på maskinen er ikke er avklart. Det blir også interessant å se hvordan utviklingen i priser på minne og andre komponenter påvirker kostnadene, sier hun.

I tillegg til å erstatte Betzy blir Sigma2 en av deleierne i den nye europeiske superdatamaskinen Lumi AI som skal på plass i Finland i 2028, og blir Europas kraftigste. Også den maskinen vil man kunne få tilgang til gjennom Sigma2.