Denne skal gi deg raskere Chat GPT-svar

Tidligere i år avduket Open AI sin første egenproduserte KI-brikke, døpt Jalapeño, som selskapet håper skal løfte KI-teknologien til det neste nivået.

Siden kunngjøringen har selskapet jobbet hardt med å teste maskinvaren, og nå har de omsider publisert en oppdatering om akkurat hva brikken er i stand til.

Som kjent er KI-teknologien er svært energisulten teknologi, og hovedmålet med den nye brikkearkitekturen har derfor vært å levere mest mulig KI-ytelse med lavest mulig energiforbruk – og det ser man ut til å ha lykkes med.

Solid ytelse

Under testing på tre ulike KI-modeller, hvorav to er utviklet av andre aktører enn Open AI selv, skal brikken ha utført mellom 1,5 og 1,9 ganger mer KI-arbeid per watt, og mellom 1,7 og 3,6 ganger lavere forsinkelse sammenlignet med tilsvarende systemer.

Når det gjelder arbeidsoppgaver med mye interaksjon, skal Jalapeño ha levert mellom 2,1 og 4,1 ganger høyere ytelse.

Ytelsen ble blant annet målt med et uavhengig verktøy som heter InferenceX, som måler hele prosessen bak KI-forespørsler fra perspektivet til vanlige brukere.

Videre ble ytelsen evaluert under et antall like brukeropplevelser og tok for seg hvor mye nyttig KI-arbeid hvert system kan utføre per enhet strømforbruk, samtidig som brikken forsøker å oppfylle kravene til forsinkelse fra kunder og agenter

Bedre agenter

Open AI peker på at lavere forsinkelse er særlig viktig for KI-agenter som må gjennomføre mange trinn etter hverandre, siden forsinkelser kan hope seg opp gjennom lengre oppgaver.

Disse forbedringene skal også kunne merkes av vanlige brukere, bedyrer KI-giganten.

– For kunder kan det bety raskere svar, mer responsive agenter og mer pålitelig tilgang etter hvert som etterspørselen vokser. Vårt mål er å sikre at kunstig, generell intelligens tjener hele menneskeheten. Disse gevinstene vil bidra til å gjøre den stadig mer kapable KI-teknologien rimeligere og bredere tilgjengelig, skriver selskapet.

Open AI planlegger å begynne å implementere Jalapeño-brikken i sin egen infrastruktur innen utgangen av inneværende år, og allerede nå er de neste generasjonene av brikken under utvikling. Det betyr tilsynelatende at selskapet akter å skalere opp maskinvaren sin i et raskt tempo.

Energikrevende

Energiforbruket er som kjent et av de viktigste ankepunktene til kritikere av KI-teknologien, da teknologien er ekstremt krevende. En FN-rapportert publisert i sommer fant at globale datasentre i 2025 konsumerte anslagsvis 448 terawattimer med elektrisitet i 2025, og KI-teknologiens andel av elektrisitetsforbruket til datasentrene lå på hele 20 prosent.

KI-andelens forbruk er ventet å øke til 40 prosent innen år 2030, og om det skjer, kan KI-teknologiens totale energiforbruk komme opp i hele 378 terawattimer. Til sammenligning lå elektrisitetsforbruket i Norge på rundt 138 terawattimer i 2025, ifølge tallene til Ember, som altså betyr at KI-ens elektrisitetsforbruk er nesten tre ganger høyere enn Norges totale forbruk.

At KI-selskapene utvikler egne brikker er selvsagt også et ledd i å gjøre seg mindre avhengige av andre aktører. Brikkegiganten Nvidia kontrollerer for eksempel ennå 80–90 prosent av det globale markedet for KI-akseleratorer målt i omsetning, ifølge nettstedet Silicon Analysts.