DRAM-kustannukset nostavat NVIDIA-palvelinten hintoja

Ilmoitus tuli juuri. Lyhyt ja jyrkkä. NVIDIA kertoi suurimmille asiakkailleen, että tekoälyyn optimoidut palvelimet maksavat ensi vuonna enemmän, monissa kokoonpanoissa yli 15 prosentin korotus.

Muutoksen ytimessä on muisti. DRAM-hinnat ovat nousseet, ja kun komponentti, joka pitää tekoälykiihdyttimet käynnissä, kallistuu, koko koneen hinta seuraa perässä. Huippuluokan järjestelmät kuten Vera Rubin ja Grace Blackwell ovat kaikkein alttiimpia; kuinka paljon laskusi nousee riippuu GPU-sukupolvesta ja palvelinrakentajan valitsemasta muistiasettelusta.

OEM-valmistajat, jotka kokoavat laitteita hyperskaalaajille (ne urakoitsijat, jotka rakentavat räkkejä Microsoftille, Googlelle ja Oraclelle), ovat jo alkaneet hiljaisesti varoittaa asiakkaitaan. Tämä kuiskaverkosto on tapa, jolla hinnanmuutokset kulkeutuvat teollisuudessa: muistitehtaista piirilevytuottajiin ja sieltä pilvisopimuksiin ja hankintataulukoihin.

Ajattele vipua. Muutamat DRAM-toimittajat, kuten Samsung, SK hynix ja Micron, hallitsevat muistipiirien virtausta. He lisäsivät tuotantoa, mutta tekoälyn kysyntä mahtuu kapean pullonkaulan kautta. NVIDIA:n kiihdyttimet tarvitsevat DRAM-kapasiteettia suorituskyvyn takaamiseksi, ja kun tarjonta on tiukka, vipu siirtyy alaspäin. Kuka maksaa? Usein se on tietokeskuksia pystyttävät yritykset.

NVIDIA itse on mielenkiintoisessa asemassa. Sen TSMC:llä valmistettujen piisirujen toimitusriskit ovat niukat, ja bruttokate on pyörinyt noin 75 prosentin tuntumassa. Silti yhtiö on äskettäin nostanut myös GPU-hintoja. Nuo liikkeet osoittavat, että jopa markkinajohtajat eivät voi täysin suojata asiakkaita, kun viereiset markkinat, tässä tapauksessa muisti, kallistuvat.

Pilvijätit eivät ole toimettomia. Amazon, Microsoft, Google ja Meta ovat sijoittaneet rahaa räätälöityihin piihankkeisiin pyrkien vähentämään riippuvuutta kolmannen osapuolen kiihdyttimistä. Mutta sirun rakentaminen on vain osa pulmaa. Lyhyellä aikavälillä monet samoista yrityksistä ovat edelleen riippuvaisia NVIDIA-laitteista tekoäintyökuormien käyttöönotossa tuotannossa.

Korkeammat laitekustannukset saapuvat yhdessä muiden esteiden kanssa: ahtaat työmarkkinat datakeskusten rakentamisessa, tiukempi rahoituksen saatavuus suurille investoinneille ja paikalliset lupavaatimukset tai poliittinen vastustus, jotka hidastavat rakentamista. Kun nämä lasketaan yhteen, tekoälydatakeskusten laajentamisen laskelmat muuttuvat monimutkaisemmiksi ja kalliimmiksi.

Nousevat DRAM-kustannukset ovat siirtäneet valtasuhteita ja laskun sekä muistivalmistajille että asiakkaille.

NVIDIAn tulevaa neljännesvuosikatsausta seurataan tarkasti. Sijoittajat ja yrityssuunnittelijat haluavat nähdä, ylittääkö tekoälyjärjestelmien kysyntä edelleen tarjonnan ja kestävätkö katteet pitkäaikaista komponenttien inflaatiota. Hankintatiimien ja pilviarkkitehtien välitön tehtävä on epämiellyttävä mutta yksinkertainen: mallinna korkeammat yksikkökustannukset ja päätä, mitkä projektit ovat edelleen kannattavia.

Kuka lopulta nielee korotuksen, palveluntarjoajat, yritykset vai loppuasiakkaat, muokkaa sitä, kuinka nopeasti laajamittaiset tekoälykäyttöönotot jatkuvat. Muistimarkkina osoittaa, että laitteiston pullonkaulat eivät ole menneisyyden jäänteitä. Ne rajoittavat huomisen tekoälyambitioita.