Nvidia lanserer kraftig KI-datamaskin du kan ha på pulten – men den koster

Nvidia er som kjent en sentral aktør innen KI-relatert maskinvare, og dette er noe selskapet åpenbart akter å utnytte ved å lage sine egne, fullverdige datamaskiner.

På CES-messen avduket Nvidia noe de selv kaller «verdens minste KI-superdatamaskin» – døpt Project Digits.

Project Digits er en personlig, kompakt PC som ikke tar opp store plassen på pulten, men som likevel skal gi brukerne tilgang til å kjøre tunge KI-oppgaver.

Ny Blackwell-brikke

I hjertet av maskinen sitter den nye GB10 Grace Blackwell-brikken, som også ble kunngjort i forbindelse med CES-messen. Dette er en systembrikke som ifølge Nvidia skal være i stand til å levere én petaflops (petaoperasjoner per sekund) med KI-ytelse – altså 1000 teraflops.

I desember avduket Nvidia en KI-datamaskin kalt Orin Nano super, et slags PC-kort som leverer en ytelse på 67 teraflops. Den nye maskinen er altså en vesentlig mer potent affære – og også dyrere.

Project Digits har en amerikansk startpris på 3000 dollar, cirka 34.000 kroner, så spesielt billig er den altså ikke.

Tanken bak det nye produktet er blant annet å sette utviklere, eller eventuelt entusiast-amatører, i stand til å prototypene, finjustere og kjøre store KI-modeller lokalt, for å sømløst distribuere dem til datasentre eller skyen.

Maskinvaren skal ifølge Nvidia takle KI-modeller med en størrelse på opptil 200 milliarder parametere – et høyst respektabelt tall. Open AIs tidligere modell GPT-3 hadde opererte til sammenligning med 175 milliarder parametere.

Av øvrig maskinvare kommer Project Digits med 128 GB minne og en NVMe SSD på opptil 4 terabyte. Selve CPU-en kommer med hele 20 kjerner.

Kan kobles sammen

På programvaresiden kommer systemet med Nvidia DGX OS, et Linux-basert, KI-optimalisert operativsystem utviklet av selskapet selv.

Tilkoblingsmulighetene inkluderer USB, Bluetooth og Wi-Fi. I tillegg kan man koble sammen to maskiner via ConnectX-grensesnittet, som da altså vil kunne kjøre KI-modeller på over 400 milliarder parametere – formodentlig tilstrekkelig for de fleste.

Med Project Digits håper Nvidia å bidra til å demokratisere KI-utviklingen, ved å spre KI-maskinvaren sin til flest mulig.

– KI vil bli mainstream i alle applikasjoner i enhver bransje. Med Project Digits vil Grace Blackwell Superchip nå ut til millioner av utviklere. En KI-superdatamaskin på skrivebordene til hver dataforsker, KI-forsker og student, vil gi dem muligheten til å engasjere seg i og forme KI-alderen, sa Nvidia-grunnlegger- og sjef Jensen Huang.

Produktet skal bli tilgjengelig i mai i år fra både Nvidia og partnere, men det er uvisst akkurat når nordmenn eventuelt kan få tak i maskinen. Interessenter kan legge igjen e-posten sin på produktsiden for oppdateringer om tilgjengelighet.