Med denne vil Open AI løfte KI-teknologien til det neste nivået

KI-teknologien har lenge basert seg på konvensjonelle grafikkprosessorer, men de høye effektivitets- og energikravene har nødvendiggjort utviklingen av mer spesialisert maskinvare.

Flere av de store KI-selskapene har tatt konsekvensene av dette, og nå har Open AI omsider avduket sin egen, dedikerte KI-prosessor – døpt «Jalapeño».

Nyvinningen, som Open AI kaller sin første «intelligensprosessor», er utviklet i samarbeid med den store brikkeprodusenten Broadcom og er optimalisert for KI-språkmodellenes såkalte inferensfase – altså prosessen med å produsere svar på brukerens spørsmål.

Designet fra grunnen av

Open AI sier de har designet brikken helt fra grunnen av på bakgrunn av selskapets innsikt i språkmodellenes indre virkemåte, og den er ment å møte de mest sentrale behovene som disse modellene har.

Den skal levere betydelig bedre ytelse per watt enn dagens mest avanserte løsninger, ifølge de tidlige testene av maskinvaren. Akkurat hvor mye bedre, er foreløpig ikke utbrodert i detalj.

Selv moderate effektivitetsgevinster vil imidlertid ha en betydelig effekt i det store bildet, med tanke på at KI som kjent er svært sulten på energi – noe en fersk FN-rapport nylig gikk i detalj om.

KI-giganten hevder videre at den nye arkitekturen blant annet reduserer databevegelse og balanserer beregningskraft, minne og nettverksressurser for å oppnå en utnyttelsesgrad som gjør det mulig å utløse det fulle potensialet – det som gjerne kalles den teoretiske toppytelsen.

Raskere og mer pålitelig

Jalapeño er et viktig skritt mot å kontrollere alle de viktigste leddene i en industri som er ganske fragmentert, noe som skal gjøre det enklere å nå ut til enda flere mennesker med avansert KI.

– Jalapeño er en del av vår langsiktige strategi for en fullstendig integrert infrastrukturstakk, med mål om å gjøre datakraft mer tilgjengelig. Dette vil resultere i kunstig intelligens som er raskere, mer pålitelig og rimeligere for både privatpersoner og virksomheter, samtidig som den kan brukes til å løse stadig viktigere utfordringer, sier Greg Brockman president og medgrunnlegger hos Open AI.

– Ved å utvikle en større del av teknologistakken selv, kan vi levere mer KI-kapasitet med høyere effektivitet og fortsette å gjøre avansert kunstig intelligens tilgjengelig for et bredere publikum, fortsetter han.

Siden den nye brikken er designet for inferens, er meningen at brukere skal kunne merke konkret ytelsesforbedringene brikken tilrettelegger for. Raskere Chat GPT-svar og mer kompliserte oppgaver med kodeverktøyet Codex er blant områdene hvor forbedringene vil kunne merkes, sier Open AI.

Vil løsrive seg fra Nvidia

Ryktene om en egenprodusert Open AI-brikke startet allerede i 2023, og året etter ble ryktene ytterligere forsterket med nye opplysninger fra Reuters. Nyhetsbyråets kilder den gang opplyste at Sam Altman skal ha blitt interessert i å lage sine egne brikker som et resultat av den vedvarende mangelen på de dyre KI-brikkene som selskapet er avhengig av.

Nividia kontrollerer fremdeles 80–90 prosent av det globale markedet for KI-akseleratorer målt i omsetning, ifølge nettstedet Silicon Analysts, og dette har fått en rekke aktører til å heve satsingen på egenproduserte brikker.

Elon Musk akter for eksempel å entre arenaen med brask og bram, med kunngjøringen av det svært ambisiøse initiativet «Terafab» – som innebærer å kombinere ressursene til både Tesla, SpaceX og Xai med det mål å etablere et gigantisk produksjonsapparat for sine egne KI-brikker.