Ny, smart maskinvare kan gi kraftige kutt i strømforbruket

Alle som kan noe om å kjøre dataprogrammer, vet at det tar tid. Og alle vil at programmet de kjører, skal ta så kort tid som mulig. Den lille maskinvare-enheten dataforskerne ved NTNU har designet, skal bygges inn prosessoren, som er selve hjernen i en datamaskin.

Derfra gjør den det enklere for utviklere å skrive programmer som tar kort tid.

– Den forteller en utvikler hva programmet hen har skrevet, bruker tid på – og hvorfor, forteller professor Magnus Jahre ved Institutt for datateknologi og informatikk på NTNU.

– Når utvikleren vet dette, kan hen endre programmet sitt, slik at det gjør den samme jobben mer effektivt.

Sammen med stipendiat Björn Gottschall og professor Lieven Eeckhout fra Universitetet i Gent har Jahre utviklet to varianter av maskinvaren, TIP og TEA, og begge er søkt patentert.

Mer bærekraftig databehandling

Tidsbruk er en kritisk faktor for å få til en mer bærekraftig databehandling. Én måte å få ned strømforbruket på, er å bruke datamaskinene mindre, altså over kortere tid. ­­Til det trengs programmer som utnytter maskinvaren maksimalt.

– Og det er nøyaktig det TEA og TIP bidrar til, sier Jahre.

Når tidstyvene i programvaren tas, kan andre store utfordringer også løses. For eksempel kan kampen om strømmen bli mindre når datautstyret blir mer effektivt. Da slipper vi å lage stadig nye servere. Dermed trenger vi langt færre strømslukende datasentre enn vi kanskje tror vi gjør.

18 datasentre og 1 million servere

I dag finnes 18 datasentre i Norge. Til sammen har disse omtrent 1 million datamaskiner, eller servere. Jahre har regnet ut at TIP og TEA gjør det mulig å kutte CO₂-utslippene med omtrent 63.000 tonn fordi kjøretiden på programmene går ned. Regnestykket forutsetter at alle prosessorene kjører med den nye maskinvaren og at programmene er omtrent like effektive som de NTNU-forskerne har brukt.

Siden norske datasentre bruker fornybar energi, vil CO₂-utslippene i Jahres oppsett stort sett komme fra produksjonen av serverne i datasenteret. Hvis alt virker slik det skal, fører raskere kjøretid til at datasentrene kan gjøre den samme jobben med omtrent 85.000 færre servere. Det tilsvarer omtrent halvparten av utslippene til Stjørdal kommune i 2021.

Denne forbedringen vil også frigjøre omtrent 400 gigawattimer (GWh) med energi. Med utgangspunkt i Statistisk sentralbyrås statistikk er det like mye som går til rundt 23.000 husstander på ett år.

Bra for værmelding og medisiner

Bedre ytelse betyr at mer kan gjøres på samme tid. Værmeldingene kan bli mer presise fordi de kan kjøres med høyere oppløsning. Medisiner kan bli mye mer effektive når datamaskinene får gjort mange flere analyser, på kortere tid, av hvordan de virker.

Chat GPT og andre språkmodeller vil gi oss raskere eller bedre svar på det vi spør om, selv om de gjør mye større søk enn i dag, ifølge forskerne.

I dag kan ytelsen til et program, altså hvor mye det forbruker av tid og strøm, variere ekstremt. Ett design kan ha flere titalls tusen ganger høyere ytelse enn et annet som gjør nøyaktig samme jobb

At kjøretiden faktisk kan variere fra noen få sekunder til mange minutter, viser behovet for smartere og mer bærekraftige løsninger.

Moores lov går snart ut på dato

Det er snart 60 år siden Gordon E. Moore, som også var en av Intels grunnleggere, lanserte antagelsen om at yteevnen i kretsene på en databrikke ville dobles hver 24. måned. Diskusjonen går om spådommen, som også kalles Moores lov, snart går ut på dato. Lufta er uansett begynt å sive ut av ballongen, ifølge Jahre.

– Siden prosessorene ikke blir automatisk raskere i samme grad som før, blir det enda viktigere at programvaren utnytter maskinvaren mer effektivt.

Det er uhyre krevende å få til.

Brikkene brukes overalt

Alle de store produsentene Intel, IBM, ARM og AMD lager kraftige prosessorer med høy ytelse. Markedet er formidabelt.

Brikkene brukes i alt av sky-infrastruktur og alle datasentre til bærbare og stasjonære datamaskiner og smarttelefoner. Det er flere av dem i TV-en din, og bilen din er full av dem.

De kraftigste prosessorene jobber med opp til 500 instruksjoner på en gang og gjør bitte litt på hver av dem samtidig. Programvaren derimot, baserer seg på at instruksjonene utføres én og én av gangen. Omtrent som når du følger en matoppskrift trinn for trinn.

– Nøkkelproblemet er å se på alt dette samtidig og finne ut nøyaktig hvilke av de 500 instruksjonene programmet bruker tid på akkurat nå. Det er akkurat dette TIP løser, forklarer dataprofessoren.

Kaster bort tid og gir feil svar

Produsentene har utstyrt brikkene sine slik at de kan analysere hva programmene bruker tid på. Alle har hver sine løsninger. Forskerne ved NTNU har testet 4 av dem. De har påvist at alle gjør systematiske feil, og at de dermed gir feil svar.

– De er faktisk så upresise at det blir vanskelig for utvikleren å forstå hvorfor programmet yter som det gjør. Det er svært krevende å forstå hva det bruker tid på. Dermed kan hen heller ikke vite hva som skal gjøres med det. Bytter de ut disse enhetene med TIP og TEA, blir det riktig, sier Magnus Jahre.

Tungregning og supersimulator

Det er først og fremst tungregneanlegget IDUN på NTNU som har gjort det mulig for forskerne å utvikle TIP og TEA. De har også brukt simulatoren FireSim, som er utviklet ved Berkeley.

De som tester nye maskinvare-løsninger, bruker gjerne programvare som simulerer hvordan maskinvaren oppfører seg. Da kan de se på noen hundre millioner instruksjoner av gangen. Oppsettet på NTNU gjør det mulig å se på milliarder av instruksjoner.

Det er det ikke så mange i verden som kan.

NTNU eier rettighetene til TIP og TEA, og NTNU Technology Transfer (TTO) har søkt patent og jakter på kommersielle partnere. Strengt tatt løser ikke oppfinnelsen noe problem for brikkeprodusentene. Det er kundene deres som først og fremst vil ha nytte av oppfinnelsen, ifølge Jahre.

Så lenge Intel, Arm og de andre holder tritt med konkurrentene, vil de trolig mene at prosessorene de har er effektive nok og lite lystne på å bruke penger, tid og ressurser på noe helt nytt.

Bevisbyrden ligger hos forskerne

Dersom en produsent bestemmer seg for å ta NTNU-oppfinnelsen i bruk i dag, vil det allikevel ta flere år før TEA og TIP finnes i noe du kjøper i butikken.

– En prosessor med høy ytelse er et ekstremt komplisert produkt. Tusenvis på tusenvis av årsverk er brukt for å lage dem. Når vi forskere, som attpåtil kommer fra verdens utkant, kommer og forteller produsentene at de må gjøre ting på en helt annen måte, ligger bevisbyrden på oss.

– Vi må forklare dem at det virker og at de bør ta det i bruk. Det er en ganske krevende øvelse, sier Jahre.

Amazon, Google og Apple

Forretningsutvikler Lodve Berre i TTO sier at de sikter de seg inn mot aktører som lager både sin egen maskinvare og programvare, som Amazon, Google og Apple.

– Disse vil kunne ta ut verdien av TIP og TEA direkte i sine dedikerte sky-løsninger og server-parker. Det gir et fortrinn overfor andre aktører som kjører på tradisjonell maskinvare, sier han.

Teknologien fra NTNU vil bety at for eksempel Apple enklere kan identifisere feil og flaskehalser, både i operativsystem og annen programvare. Dermed kan de øke ytelse og batterilevetid på sine enheter – både MacBooks, mobiltelefoner og nettbrett, ifølge Lodve Berre.

– Og hvor er TIP og TEA om fem år?

– Da tenker jeg det er tatt i bruk og på vei til en butikk nær deg.

Artikkelen ble først publisert på Gemini.no