Studie viser hvordan man kan spare 80 prosent energi ved KI-trening

Én prompt – kommandoen du gir en KI – er beregnet til å bruke 0,19 kWh. Det tilsvarer 40 mobiltelefonsamtaler.

Hvis man tenker seg hele datasentre og den forventede etterspørselen etter kunstig intelligens i fremtiden, ender du opp med en stor strømregning.

Dette har tidligere fått Open AI-sjef Sam Altman til å etterlyse kjernefysisk fusjon eller solenergi for å drive kunstig intelligens. Men forskere fra Københavns Universitet har en mer praktisk løsning.

Ved å fokusere på energieffektivitet før selve KI-treningen og gi en oversikt over de mest energivennlige modellene, kan man ifølge studien kutte store mengder energiforbruk uten å miste effektivitet.

Forskerne har laget en «oppskriftsbok» over de mest energieffektive modellene og publisert listen på Github, sammen med den vitenskapelige artikkelen om studien, som er akseptert på International Conference on Acoustics, Speech and Signal Processing (ICASSP-2024).

– Hvis du designer en modell som er energieffektiv fra starten av, reduserer du karbonavtrykket i alle faser av modellens livssyklus. Dette gjelder både i opplæringsfasen, som er en spesielt energikrevende prosess som ofte tar uker eller måneder, og i bruksfasen, sier en av hovedforfatterne av studien, Raghavendra Selvan, i pressemeldingen fra Københavns Universitet.

Nesten like effektive

Forskerne har undersøkt hvor mye energi som kreves for å trene opp 400 000 KI-modeller av typen convolutional neural network. Denne typen brukes blant annet til å analysere medisinske bilder, oversettelse, objekt- og ansiktsgjenkjenning.

Forskerne presenterer resultatene fra de 400 000 KI-modellene og rangerer dem etter hvilke som er mest energieffektive – uten at det går på bekostning av effektiviteten.

Hittil har KI-utviklere i stor grad fokusert på den mest effektive modellen, ifølge forskerne bak den nye studien. Men med den nye oversikten vil fagfolk kunne velge den mest energivennlige.

Studien konkluderer med at det er mulig å spare 70 til 80 prosent energi i opplærings- og implementeringsfasen ved å velge andre modeller eller justere modellene og bare miste én prosent eller mindre i ytelse.

Presser strømnettet

For å trene opp en KI-modell brukes det i dag såkalte GPU-er, altså grafikkort, som krever store mengder energi. Oppgaver behandles ofte i datasentre, som også krever mye strøm til både datamaskiner og store mengder vann til kjøling.

Dette har fått flere forskere til å uttrykke bekymring for det enorme energiforbruket til kunstig intelligens. De oppfordrer utviklere og teknologiselskaper til å fokusere på mer bærekraftig trening av modellene sine.

Den økende bruken av kunstig intelligens fikk sjefen for strømnettet i Storbritannia til å advare om at kapasiteten er sprengt. Fremtidens energibehov krever «dristige tiltak» for å møte den «dramatiske» økningen i etterspørsel, sa han til BBC.

Artikkelen ble først publisert på Ingeniøren for deres abonnenter. Den er tilgjengelig på norsk for abonnenter av Ekstra gjennom vår samarbeidsavtale.