Microsoft bygger KI-superfabrikk på tvers av kontinenter

Neste generasjons språkmodeller vil ha hundrevis av billioner parametere. Å trene dem krever en helt ny infrastruktur for kunstig intelligens (KI), mener Microsoft.

I Norge har selskapet utpekt Kvandal utenfor Narvik til å bli Europas nye knutepunkt for kunstig intelligens.

Der vil en investering på over 60 milliarder kroner sammen med Aker Nscale danne en av verdens største GPU-installasjoner, og da nyheten ble delt, nevnte de spesifikt en «sammenkobling av datasentre».

Samtidig, på den andre siden av Atlanteren, har Microsoft satt i produksjon en ny klasse datasentre, døpt «Fairwater». Selskapet varsler nå at et slikt anlegg i Atlanta kobles direkte til et lignende anlegg i Wisconsin.

Målet er ikke lenger å bygge isolerte anlegg, men å skape en distribuert «KI-superfabrikk».

– Strekker seg over kontinenter

Ifølge Microsoft er dette et nødvendig skritt for å trene fremtidens massive KI-modeller. Selskapets teknologidirektør (CTO) for Azure, Mark Russinovich, sier i en uttalelse at enkeltanlegg ikke lenger er nok.

– Mengden infrastruktur som kreves nå for å trene disse modellene, er ikke bare ett datasenter, ikke to, men mange ganger det, konstaterer Russinovich.

Microsofts nye strategi er å bygge superklynger av datasentre som strekker seg over kontinenter, ifølge nettstedet The Register.

Årsaken er at fremtidens KI-modeller, som kan ha «hundrevis av billioner» av parametere, rett og slett ikke kan trenes på ett enkelt sted.

Microsofts toppsjef Satya Nadella beskriver en strategi selskapet kaller «planetskala». Ifølge Nadella skal de nye Fairwater-datasentrene kobles sammen i et omfattende KI-nettverk som spenner over kontinenter.

Dette nettverket vil også integrere tidligere generasjoner superdatamaskiner, for å skape en større, felles ressurs av datakraft. Målet er å la utviklere skalere oppgaver utover kapasiteten til ett enkelt anlegg og flytte KI-jobber til den infrastrukturen som til enhver tid passer best.

Jakten på strøm og kjøling

Denne distribuerte tilnærmingen løser ikke bare et skaleringsproblem, men lar også Microsoft velge lokasjoner strategisk.

Ved å koble sammen fjerntliggende anlegg kan selskapet trene mye større modeller og gi seg selv muligheten til å velge forskjellige lokasjoner for sine anlegg. Infrastrukturen knyttes sammen med fiberkabler.

Dermed kan de velge steder med billig land, kjøligere klima og – kanskje viktigst av alt – tilgang til rikelig med kraft, skriver The Register.

Beskrivelsen av et kjølig klima og rikelig tilgang på kraft passer Norges-satsingen i Kvandal utenfor Narvik perfekt.

De nye «Fairwater»-anleggene i USA er teknologiske kraftpakker, designet spesifikt for KI-trening. De benytter avansert væskekjøling som ifølge Microsoft bruker «omtrent ikke noe vann», og de er utstyrt med den nyeste maskinvaren, som Nvidias GB 200 NVL72 rack-systemer.

Er Kvandal et «Fairwater»-anlegg?

Microsoft har foreløpig ikke bekreftet om den massive investeringen i Narvik er et anlegg i «Fairwater»-klassen, eller om det er planlagt som en node i den nye KI-superfabrikken som nå kobles sammen i USA.

Strategien med å distribuere nettverket er imidlertid designet for å støtte modeller med hundrevis av billioner av parametere, ifølge Microsoft.

Selskapets egne uttalelser om at Narvik skal bli et europeisk KI-knutepunkt, kombinert med behovet for å flytte massive treningsjobber til steder med rikelig kraft og kjøling, antyder at anlegget i Nord-Norge kan spille en nøkkelrolle i denne globale infrastrukturen.

Digi har stilt spørsmål til Microsoft om Kvandal-anlegget er en del av «Fairwater»-programmet og hvordan det eventuelt skal kobles til den nye globale superfabrikk-arkitekturen. Saken blir oppdatert ved svar.

(Oppdatert tirsdag 18. november):

– Microsoft har annonsert Fairwater-anlegg i Atlanta og Wisconsin, og går videre med nye utviklingsfaser, inkludert flere anlegg. Vi har ikke noe mer å kunngjøre om Fairwater-anleggene på nåværende tidspunkt, skriver kommunikasjonssjef Cornelia Bjørke-Hill i Microsoft Norge.