Nvidia Vera muuttaa datakeskusten AI-laskentaa nopeasti

Datakeskukset muuttuvat harvoin yhdessä yössä. Mutta kun muutos tapahtuu, sen huomaa huminasta. Kaaapit tiivistyvät. Viiveet alenevat. Kustannukset järjestäytyvät uudelleen. Nvidia uskoo, että tuo humina saa pian uuden nimen: Vera.

Nvidia kertoo, että Vera tarjoaa noin 1,8-kertaisen suorituskyvyn johtaviin x86-piireihin verrattuna. Väite on otsikon arvoinen. Sen takana oleva laitteisto puolestaan herättää keskustelua. Vera on Vera Rubin -alustan CPU-puoli, joka yhdistää ARM-pohjaisen suorittimen Rubin-grafiikkapiiriin työkuormille, jotka tarvitsevat valtavaa muistiväylän kaistaa ja tiivistä CPU-GPU-yhteistyötä.

Miksi Vera muuttaa tekoälypalvelinten ajattelua

Vera rakentuu 88 Olympus-ytimen ympärille, joissa on Spatial Multithreading, tarjoten 176 säiettä per soketti. Muisti ei ole sivuseikka: yksittäiseen suorittimeen voidaan liittää jopa 1,5 teratavua LPDDR5X-muistia, mikä tarjoaa noin 1,2 teratavua sekunnissa kaistanleveyttä. AI-inferenssissä ja agenttimaisissa malleissa, jotka kuluttavat kontekstia ja painoja, tuo kaistanleveys ratkaisee.

Ajattele skaalautuvuutta. Nvidia esitteli Vera CPU Rackin, joka ahdastaa 256 suorittinta yhteen koteloon. Se tarkoittaa 22 528 ydintä ja 45 056 säiettä. Tämä on juuri sellainen tiiveys, jota pilvipalveluntarjoajat kaipaavat yrittäessään siirtää suuria malleja kalliista pelkästään GPU-pohjaisista saarekkeista joustavampiin, CPU-painotteisiin arkkitehtuureihin.

Vera toimii myös hyvin Rubin-GPU:iden kanssa. NVL72-konfiguraatio yhdistää 36 Vera-suoritinta 72 Rubin-GPU:hun, ja Nvidia kehuu niiden välissä olevaa 1,8 teratavun sekuntinopeutta NVLink-C2C-väylää. Tavoitteena ei ole korvata GPU:ita vaan muokata isännän ja kiihdyttimen välistä suhdetta siten, että data virtaa nopeammin ja ohjelmisto kohtaa vähemmän pullonkauloja.

Käyttötapaukset ovat tuttuja mutta kasvavia: agenttimainen tekoäly, vahvistusoppiminen, raskas analytiikka ja laajamittainen inferenssi. Vera voi toimia itsenäisenä laskentayksikkönä näissä tehtävissä tai isäntänä, joka pitää Rubin-GPU:t ruokittuina ja synkronoituna.

Käyttöönotto on jo käynnissä. Anthropic, OpenAI ja SpaceXAI ovat sitoutuneet alustaan mallityökuormilleen, ja hyperskalaajat kuten ByteDance, CoreWeave ja Oracle Cloud Infrastructure ovat mukana. Järjestelmäpuolella Dell, HP, Lenovo ja Supermicro tarjoavat Vera-pohjaisia palvelimia. Suuret valmistajat kuten Asus, Compal, Foxconn, Gigabyte, Pegatron, Quanta Cloud Technology, Wistron ja Wiwynn tuottavat siruun perustuvaa laitteistoa.

Myös ei-perinteiset asiakkaat kiinnittävät huomiota. New York Stock Exchange, joka käsittelee noin 1,1 biljoonaa viestiä päivässä, tutkii Veraa yhdessä kumppaneiden Redpanda ja HP kanssa harkiten viiveherkkää infrastruktuuria. Tällainen kiinnostus osoittaa, että alustaa arvioidaan muuhunkin kuin mallien koulutukseen; sitä tarkastellaan reaaliaikaisten, suuren läpimenon järjestelmien näkökulmasta, joissa jokainen mikrosekunti merkitsee.

Nvidialle Vera laajentaa tuttua kaavaa: ottaa opit GPU-ensimmäisistä AI-käyttöönotosta ja soveltaa niitä CPU-suunnitteluun. Yhtiö on aiemmin yhdistänyt AI-työnsä tuotteisiin kuten RTX Spark, joka nosti esiin Grace-suorittimet ja Blackwell-GPU:t LPDDR5X-muistilla. Nyt keskustelu on siirtynyt yksittäisen solmun GPU-suorituskyvystä järjestelmätason tasapainoon ja läpimenoon.

Tuleeko Vera syrjäyttämään x86:n datakeskuksessa? Ei yhdessä yössä. Mutta arkkitehtuuri kohdistaa tiettyihin kipukohtiin AI-työkuormissa: muistiväylän kaistaan, säikeiden tiheyteen ja nopeaan CPU-GPU-väylään. Insinööreille ja arkkitehdeille, jotka kamppailevat mallien kustannusten ja läpimenon kanssa, se on käytännöllinen alku.