Energi­effektivisering er tvingende nødvendig for KI-datasentre

En ny rapport, som skal være den første i sitt slag, konkluderer med at datasentre for kunstig intelligens må redesignes fra grunnen av, dersom det i det hele tatt skal være mulig å benytte dem i det lange løp.

Rapporten er utarbeidet av Schneider Electric og påpeker at det trengs enorme mengder energi for å opprettholde utvikling og bruk, og at nettopp dette fører med seg en rekke andre problemer og utfordringer.

– KI fører til en voldsom økning på energiforbruk i datasentre og bør brukes samfunnsbevisst. For å takle denne utviklingen, må KI-datasentre prosjekteres med en helt ny design og tilnærming for i det hele tatt å kunne eksistere, sier Erik Gjesdal, segmentsjef for datasenter i Schneider Electric, i en pressemelding.

Strømforbruk og energieffektivisering

Rapporten estimerer at energiforbruket til datasentre vil ha en årlig økning på 26-36 prosent frem til 2028, og at datasentre innen den tid vil kreve opptil 90 GW energi globalt.

– Det tilsvarer et årlig energiforbruk på 788 terawattimer, sier Gjesdal.

I dag er forbruket 54 GW globalt, hvorav KI-prosessering utgjør 4,3 GW.

Estimatet for 2028 er 90 GW totalt, inkludert en KI-andel som utgjør mellom 13,5 og 20 GW.

Sagt på en annen måte vil det totale 2028-estimatet tilsvare det årlige gjennomsnittlige energiforbruket til over 49 millioner norske husholdninger – eller omtrent 148 millioner nordmenn, som er blant strømkundene som bruker mest energi i verden. En gjennomsnittlig norsk familie forbruker omtrent 16 megawattimer i året.

Trening og bruk av KI

Den første av de to grunnleggende funksjonene til et KI-datasenter er å trene en modell på eksisterende data. Dette innebærer enormt med prosessering på full last i en periode på dager, uker eller måneder, og medfører at det blir høy energitetthet i de nodene som utfører jobben.

Effekten kan ligge på alt fra 20 til 150 kW, ifølge rapporten, noe som uansett er langt mer enn for tradisjonelle datasenter-noder.

Utviklingen av GPT-3 er estimert til å ha krevet 1287 megawatttimer og generert 552 tonn karbondioksid, tilsvarende 123 bensindrevne personbiler kjørt i ett år.

– Når du opererer med så mye energi som det vi anslår vil brukes globalt i 2028, kan 1 prosent energieffektivisering tilsvare strømforbruket til omtrent 492.000 husholdninger. En tredel av Norges privatforbruk, i praksis.

Jobb nummer to er å benytte modellen til å svare på brukernes input, for eksempel generere tekst eller bilder som svar på brukernes forespørsler. Dette kalles også «inferens» og er en jobb som krever langt mer energi totalt sett, spesielt etter hvert som modellen får flere brukere som hver krever flere jobber gjort, og med stadig økende hurtighet, størrelse og presisjon.

Rapporten estimerer at inferens vil øke fra 80 til 85 prosent av den totale KI-prosesseringslasten innen 2028.

Varmeutvikling og kjøling

Treningsservere er ofte organisert i relativt små og energitette klynger. Dette er fordi effektiv koordinering av dem og kommunikasjon mellom dem krever høy båndbredde og flytting av mye data. I små klynger blir dette enklere og billigere, fordi man da kan benytte nettverkskabler med kobberledere.

Vokser klyngene seg for store, må man imidlertid over på optisk fiber for mest mulig effektiv kommunikasjonen mellom enhetene, noe som er svært mye dyrere å få til.

Dermed konsentreres energiforbruket på små områder. Det er i tillegg liten variasjon i energikrav og varmeutvikling, da lasten på maskinvaren er både nær det maksimale og nærmest konstant. Slike noder vil dermed bli svært varme, siden de aldri får «pause», kjører hardt og i tillegg står svært tett sammen.

Temperaturen vil dermed bli langt høyere lokalt enn i tradisjonelle datasentre, påpeker rapporten, noe som gir muligheter for å utnytte varmen til andre formål, som for eksempel vannbåren varme.

Det igjen byr imidlertid igjen på flere andre problemer.

For eksempel er mye av infrastrukturen i datasentre tilpasset luftkjøling, noe som gjør det vanskelig å utnytte varmen. Det mangler standarder for å konvertere slike til vannkjølt utstyr, og det er svært dyrt og arbeidskrevende å bytte blant annet rackskap til tilsvarende utstyr som er bygget for vannkjøling i utgangspunktet.

Ikke bare det. Det vil også medføre en betydelig vektøkning – så mye at mange eksisterende datasentre risikerer å måtte forsterke gulv og andre konstruksjoner.

Energisparing

Schneider Electric peker på flere muligheter på å redusere både energiforbruk og kostnader ved dette, foruten gjenbruk av varmen som utvikles.

For eksempel mener de at det kan spares inn 2 til 5 prosent av energiforbruket ved å bygge mer robuste og digitaliserte anlegg som overvåker strømkvalitet, -forbruk, temperatur og så videre.

Schneider Electric mener også at såkalt «peak shaving» («strømtoppbarbering») kan spare penger, om ikke energi. Dette vil si at man bruker lagret energi fra batterier når elektrisiteten er på det dyreste, i stedet for å trekke det fra strømnettet.

Dette finnes det allerede gode systemer som kan styre automatisk, og selv om anlegget i seg selv forbruker like mye energi som uten dette, vil man bidra til å redusere øyeblikk der belastning og pris på nettet som helhet er ekstra høy.