Minidatasentre kan bli en ny mulighet for teleselskaper

Dette er noen av visjonene bak et prosjekt Nvidia har sammen med California-selskapet Span om datamaskiner for kunstig intelligens, plassert omtrent som en varmepumpe utenfor eneboligen.

Ideen er å la veldig mange husstander huse hver sin vannavkjølte Nvidia-boks, full av GPU-er som til sammen kan jobbe som ett stort datasenter for kunstig intelligens.

Blackwell-server

Det var i april at Span kunngjorde prosjektet. De fortalte da om lansering av en distribuert datasenterløsning designet for å levere mange gigawatt med ny databehandlingskapasitet. Systemet er kalt XFRA, og partnere i prosjektet er verdens for tiden mest verdifulle selskap, Nvidia, som skal bidra med Nvidia RTX Pro 6000 Blackwell Server Edition GPU-er.

Span har fra før jobbet med smarte løsninger for bruk av strømnett, og ønsker nå å plassere vannkjølte datasentre myntet på kunstig intelligens i enden av både fiber og strømkabler. Tanken er i utgangspunktet å utnytte ubrukt kapasitet i både strømnettet og fibernettet til databehandling.

Nokia-direktør Ibrahim Kisioglu har omtalt prosjektet i en Linkedin-post. Her skriver Kisioglu at Nvidias minidatasentre først høres litt rart ut. Men når man ser at dette er en måte å utnytte overflødig kapasitet i eksisterende strømnett, blir det plutselig mindre rart for Nokia-mannen, som jobber med kunstig intelligens, datasentre og tilknytning av slike.

Gratis internett og strøm

Han tenker seg at dette kan gi lavere eller ingen pris på både strøm og bredbånd for huseiere.

Den store gevinsten mener han ligger hos teleselskapene, som kan havne midt i konvergeringen av energi, fiber og databehandling i ytterkanten av nettverkene – edge computing. Om en slik distribuert datasentermodell skulle bli aktuell er telekomselskapene ypperlig plassert til å sikre lav forsinkelse, høy oppetid og ikke minst at de er vant til å håndtere vedlikehold spredt over nasjoner.

Han peker på at Span snakker om muligheten for å nå 1 gigawatt kapasitet uten å måtte vente årevis på ny kraftutbygging slik tradisjonelle datasentre må.

Teleselskapene mener han har en fordel ved at de allerede har millioner av kunder tilknyttet på aktuelle lokasjoner og at de forstår infrastruktur utenfor datasentre.

Inferens

Det er først og fremst inferens-delen av kunstig intelligens som tenkes utført i den typen distribuerte datasentre som vi skriver om her. Dette er altså den delen som brukere møter i spørringer, etter at de store datasentrene har trent KI-en på store datamengder først.

For de amerikanske selskapene bak ideen om minidatasentre er noe av drivkraften at det er svært mange datasentre som venter i årevis på kraft- og strømnett-utbygging i USA. I 2024 sto datasentre for fire prosent av det totale datakonsumet på 183 terawattimer. I 2030 er en av spådommene at andelen vil øke til ni prosent.

Tregt å få strøm

Ifølge Span vil det ta flere tiår å få strømnettet bygd ut slik at det kan svare på behovet til datasentrene. Det er her Span ser et marked der de hurtig kan få på plass et distribuert nett av KI-maskiner.

Dette er på ingen måte første gang datasentre i ytterkanten av nettverket diskuteres. Plassering av datakraft rundt basestasjoner i mobilnett ble interessant ved utbyggingen av 5G-nettet. For å kunne oppnå datahastighetene som loves her, trengs plassering av data nærmest mulig brukernes mobiltelefoner.

Det er selvsagt mulig å utvide konseptet med KI-maskiner til også å betjene andre behov for databehandling og lagring i ytterkanten av nettverkene.