Nvidia prikazala Rubin Ultra tray: prvi AI GPU sa 1 TB HBM4E memorije

Nvidia je u ponedeljak predstavila sledeću generaciju tray-a za svoj data center GPU Rubin Ultra, koji bi trebalo da stigne negde tokom 2027. godine. Rubin Ultra ima četiri compute chiplet-a i 1 TB HBM4E memorije, čime postaje prvi industrijski AI akcelerator sa terabajtom memorije. Platforma Rubin Ultra koristi novi dizajn na nivou rack-a pod nazivom Kyber, koji uključuje 144 GPU pakovanja, uz značajno bolje performanse u odnosu na današnji NVL72 dizajn rack-a.

Pakovanje i neizvesnosti

Prema onome što je Nvidia pokazala, četvoropaketni Rubin Ultra paket će koristiti novu pakovanjsku tehnologiju, ali još nije jasno kako je GPU tačno implementiran, jer heatspreader sve skriva. Nije poznato ni da li je Rubin Ultra uopšte tape-out-ovan. Upadljiva je relativno mala veličina Rubin Ultra paketa, što može ukazivati na složeni (npr. složeni) dizajn, ali to ostaje speculacija.

Tray bez kablova i uloga partnera

Nvidia Rubin Ultra tray skoro u potpunosti nema kablova, što bi trebalo da pojednostavi montažu servera. To može i da znači da će Nvidia prodavati kompletne trayove, pa bi uloga partnera bila više sklapanje mašina na nivou rack-a, a manje izrada matičnih ploča i server tray-ova.

Kyber rack i performanse

Uz Rubin Ultra, Nvidia uvodi novi tip rack-a — Kyber: koristi vertikalne umesto horizontalnih tray-ova i tečno hlađenje kao podrazumevano. U jedan rack staje 144 GPU pakovanja, pa bi Kyber NVL144 sistemi na Rubin Ultra GPU-ima trebalo da budu bar četiri puta brži od Oberon NVL72 sa 72 Rubin GPU-a, jer sistem udvostručuje broj GPU tile-ova po paketu i broj pakovanja.

Mreža i komunikacija

Kyber rack nadograđuje NVLink prekidač sa 6. na 7. generaciju: brzina ostaje 3600 GB/s, uz mogućnost povećanja broja GPU-ova. Nvidia planira i CX9-1600G Ethernet procesor radi ubrzanja scale-out komunikacije.

Izvor: Nvidia