Cerebras Systems er et selskap som lager svært store prosessorbrikker. Selskapets CS-1-prosessor er på hele 462 kvadratcentimeter, det største kvadratet som er mulig å hente ut av en standard 300 millimeters silisiumskive («wafer»).
Prosessoren består av mer enn 380.000 beregningsenheter eller «fliser», som alle har sin egen prosessorkjerne og minne, samt en innebygget nettverksruter som sørger for kommunikasjon med de andre flisene. I alt består den av 1,2 billioner transistorer og er omtrent 60 ganger så stor som en tradisjonell prosessorbrikke.
Dette er verdens største prosessorbrikke – skal trene fremtidens KI-modeller
_logo.svg.png){kind=logo}
Raskere enn en superdatamaskin?
Nå har Cerebras i samarbeid med National Energy Technology Laboratory (NETL), et laboratorium som eies av det amerikanske energidepartementet, demonstrert at CS-1 er i stand til å utføre visse oppgaver mye raskere enn én av USAs største superdatamaskiner, Joule 2.0. Den tilhører nettopp NETL.
Superdatamaskinen, som var ferdig bygget våren 2019, består av både CPU-er fra Intel og GPU-er fra Nvidia. Den rangeres nå på 81. plass i listen over verdens kraftigste superdatamaskiner, og som den 24. kraftigste i USA.
Numerisk fluiddynamikk
Den oppgaven som ble testet, dreide seg om å løse et stort, spredt og strukturert system med lineære ligninger av den typen som melder seg i modellering av fysiske fenomener – slik som numerisk fluiddynamikk – ved å bruke en endelig volummetode på et vanlig, tredimensjonalt polygonnett.
Oppgaven er nærmere beskrevet i dette blogginnlegget.
I forsøket viste det seg at et CS-1-basert system kan utføre en slik oppgave mer enn 200 ganger raskere enn Joule 2.0-superdatamaskinen til NETL.
Saken fortsetter under bildet.
Med KI kommer damene tilbake til data
Kort vei til minnet
– CS-1 er en veldig interessant maskinvareplattform fordi den eliminerer viktige flaskehalser som kveler ytelsen i konvensjonelle HPC-bruksområder, sier Dirk Van Essendelft, en ingeniør innen maskinlæring og informatikk som er ansatt ved NETL, i en pressemelding.
HPC står for High-Performance Computing, iblant kalt tungregning på norsk.
Han har ledet forsøket sammen med Michael James, Cerebras' sjefsarkitekt for avanserte teknologier og medgründer i selskapet.
– Dagens HPC kjemper mot fysikken. Det er to store problemer – volumet av ledningene og lengden på ledningene. Jo mindre og kortere ledningene er, som knytter minnet til beregningsenhetene, desto raskere og mer energieffektivt kan ting kjøre. I tradisjonell HPC er minnet lokalisert lenger unna, slik at lengden på ledningene kan være flere tommer lange (eller flere fot mellom beregningsnodene), og ha temmelig stort volum, sier Van Essendelft.
I CS-1 er minnet ifølge Cerebras så nærme prosessorkjernene som det er mulig å gjøre med dagens produksjonsmetoder.
Ifølge selskapet kan CS-1-systemet blant annet simulere mer enn 1 million fluidceller raskere enn i sanntid. Dette skal ifølge Cerebras bety at når den brukes til å simulere et kraftverk basert på data om de nåværende driftsbetingelsene, kan den fortelle hva som kommer til å skje, før virkelighetens fysiske lover produserer det samme resultatet.
Dette er verdens største prosessorbrikke – skal trene fremtidens KI-modeller
