KI-genererte bilder: Krever like mye strøm som å lade en telefon

Store maskinlæringsmodeller har fått sitt definitive gjennombrudd i 2023.

Trenden går mot økt bruk av store modeller som er trent til å løse mange ulike oppgaver, fremfor små spesialiserte modeller. Det kan være dårlig nytt for klimaet.

− Ambisjonen om «generelle modeller» har høy kostnad for miljøet, gitt mengden energi systemene krever og mengden karbon de slipper ut.

Det skriver Alexandra Sasha Luccioni, Yacine Jernite og Emma Strubell i en artikkel publisert på Arxiv. Forskerne fra Hugging Face og Carnegie har sett nærmere på energibruken til en rekke maskinlæringsmodeller.

Vår nye folkesport, KI-generering av artige små bilder, er noe av det mest energikrevende vi driver med på nett, viser forskningen.

The Register skrev om artikkelen først.

Strømsluk

At generativ kunstig intelligens er både tørst og energikrevende er kjent.

Tidligere undersøkelser har vist at en prat med Chat GPT koster en halvliter vann bare i nedkjøling av datasentrene.

Fra 2017 til 2021 har datasenterkjempene Google, Amazon, Microsoft og Meta mer enn doblet strømforbruket. Datasentre bruker nå mellom 1 og 1,3 prosent av verdens strøm. Andelen vokser.

Selv om energikostnaden per oppgave for de fleste modeller er liten, er bruken eksplosiv. Maskinlæringsmodellen Google Translate blir brukt milliarder av ganger hver eneste dag.

Like mye som å lade telefonen

Forskerne har regnet ut hvor mye kraft ulike KI-systemer krever for å gjøre ulike oppgaver. De ba ulike KI-modeller utføre tusenvis av oppgaver innen blant annet kategorisering av tekst og bilde, og bilde- og tekstgenerering.

Ikke overraskende er det kategoriserings-modellene som kommer best ut. Å bruke maskinlæring til å identifisere tekst eller bilder koster mellom 0,002 og 0,007 kWh for 1.000 kjøringer. Modellene som skal generere innhold krever vesentlig mer, og modeller for bildegenerering bruker mer strøm enn tekst-modellene.

− De minst effektive bilde-modellene brukte like mye energi som det krever å lade opp 950 smarttelefoner på 1000 slutninger, altså nesten en full lading per bilde de genererte, skriver forskerne.

De advarer mot ukritisk bruk av store flerbruks modeller.

Bruk spesialiserte modeller

Trenden, spesielt etter inntoget av Chat GPT og Copilot, er at selskapene går mot modeller som er trent til å løse en rekke oppgaver.

Disse er mer energieffektive per funksjon i utviklings- og treningsfasen, men krever mer strøm enn de spesialiserte modellene ved bruk,

Over tid kan de generelle modellene dermed være mer kostbare for klimaet per bruk enn de mindre og spesialiserte modellene, spesielt når det er «enklere» KI-jobb som skal gjøres, som å kategorisere tekst og bilder.