AMD Threadripper Halo Station: Pöytätason AI ja skaalautuvuus

Kuvittele datakeskusluokan tekoälyn ajaminen työpöytäkoneella. Se kuulostaa ajatusleikiltä, kunnes kävelet AMD:n IFA-osaston ohi ja näet laitteen, joka pyrkii tekemään siitä totta.

AMD esitteli Threadripper Halo Stationin, työaseman, joka yhdistää yhtiön huippuluokan PRO-komponentit siihen, mitä AMD kutsuu ”Ultimate Personal AI Workstationiksi”. Tavoite on yhtä aikaa yksinkertainen ja kunnianhimoinen: tuoda suurten mallien koulutus, hienosäätö ja inferenssi yhden pöytäkoneen koteloon, jotta kehittäjät ja studiot voivat vähentää riippuvuuttaan kalliista pilvilaskennasta.

Halo Stationin ytimessä on Threadripper PRO 9995WX, yksi AMD:n nopeimmista Threadripper-suorittimista. Siinä on runsaasti ytimiä ja korkeat kellotaajuudet: siru yltää jopa 5,4 GHz:iin, ja se on optimoitu suureen läpimenoon ja raskaaseen moniajoon. Raaka suorittimen teho on kuitenkin vain osa kokonaisuutta.

Tekoälykuormissa raskain työ siirtyy GPU:ille. AMD yhdistää Threadripperin työasemaluokan Instinct-kiihdyttimiin eli HBM3e-muistilla varustettuihin MI350P-kortteihin. Tyypillisessä kokoonpanossa on kaksi korttia, mutta koteloon mahtuu enintään neljä. Tällöin HBM3e-muistia on peräti 576 gigatavua. Yhdistetyn GPU-muistin kaistanleveys liikkuu useissa teratavuissa sekunnissa, ja järjestelmä tukee jopa 2 TB:tä DDR5 RDIMM -muistia. Kun molemmat muistialtaat lasketaan yhteen, kokonaisjärjestelmämuistia on noin 2,6 TB.

• CPU: Threadripper PRO 9995WX – jopa 96 Zen 5 -ydintä / 192 säiettä, kellotaajuus jopa 5,4 GHz, noin 384 MB välimuistia
• GPU: Enintään 4 × AMD Instinct MI350P -kiihdytintä, kussakin 144 GB HBM3e-muistia (yhteensä jopa 576 GB)
• Järjestelmämuisti: Enintään 2 TB DDR5 RDIMM -muistia (kokonaismuisti ≈ 2,6 TB)
• Kotelo ja jäähdytys: Nestekiertojäähdytys vakiona E-ATX Halo -tyylisessä kotelossa
• Saatavuus: Suunniteltu vuodelle 2027

Valintoja on silti tehtävä. NVIDIAn DGX Station on yhä suora kilpailija, ja sillä on etuja tietyissä arkkitehtuureissa ja päivitysratkaisuissa: NVIDIA tukee AIC-laajennuskortteja ja tarjoaa joissakin kiihdyttimissä suuria, yhden sirun HBM-muistikapasiteetteja. AMD:n lähestymistapa on toinen: suorituskykyä kasvatetaan useilla Instinct-korteilla, valtava määrä CPU-säikeitä yhdistetään kokonaisuuteen ja komponentteja voidaan vaihtaa tavallisiin osiin tarpeiden muuttuessa.

Miksi tällä on merkitystä? Kaikki tiimit eivät halua vuokrata laskentatehoa tuntiperusteisesti. Triljoonaparametristen mallien kouluttaminen tai ajaminen paikallisesti voi pienentää jatkuvia kustannuksia merkittävästi sekä poistaa pilvipalveluihin liittyviä kaistanleveys- ja tietosuojaongelmia. Yksinkertaisesti sanottuna: maksa kerran, aja usein. AMD asemoi Halo Stationin sillaksi tiimeille, jotka tarvitsevat datakeskusluokan läpimenon ilman datakeskuksen tilantarvetta.

AMD ei pysähtynyt IFA:ssa yhteen laitteeseen. Yhtiö esitteli myös Ryzen AI MAX 400 -malliston, johon kuuluu paikallisiin tekoälytehtäviin optimoituja kannettavia ja mini-PC:tä. Laitteiden tavoitteena on tuoda tehokas inferenssi ja laitteella tehtävä kehitys kannettavaan kokoluokkaan. Kumppanit, kuten HP, Lenovo, Acer ja muut, ennakoivat jo alustalle tulevia laitteita.

AMD on rakentanut laitteiston ympärille myös ohjelmisto- ja ekosysteemiratkaisuja. Ryzen AI Halo -järjestelmät toimitetaan Microsoftin Project Zenith -valmiudella, ja niihin sisältyy paikallista mallikehitystä helpottavia työkaluja, kuten Visual Studio Code, WSL, GitHub Copilot CLI ja PowerShell. AMD ilmoitti myös yhteistyöstä SUSE:n kanssa. Sen tarkoituksena on auttaa tiimejä siirtämään sovelluksia paikallisesta Ryzen AI Halo -kehitysympäristöstä skaalattuihin tuotantotason ympäristöihin, mikä vähentää yritysten kitkaa.

Tapahtumassa esitetyt vertailuluvut herättivät huomiota. Integroidulla muistilla varustettu Ryzen AI MAX+ -prototyyppi suoritti raportoidusti GLM-5.3 Flashia, noin 320 miljardin parametrin mallia, paikallisesti noin 58 tokenin sekuntivauhdilla. Läpäisykyky on käytännöllinen monissa todellisissa käyttötapauksissa, ja samalla se tukee kustannusargumenttia: vahva riippuvuus isännöidyistä suurista kielimalleista voi kasvattaa kustannukset nopeasti satoihin euroihin useiden miljoonien tokenien työkuormaa kohden. Paikallinen suoritus muuttaa laskelmaa.

AMD pyrkii muuttamaan tekoälyn kehittämisen tapaa ja paikkaa siirtämällä työn etäisistä räkeistä takaisin työpöydälle ilman kompromisseja suorituskyvyssä tai laajennettavuudessa.

Kaikki ei ole vielä selvää. Threadripper Halo Stationin hinnoittelua ei ole kerrottu. DGX Stationin hintalaput ovat historiallisesti lähennelleet kuusinumeroisia summia, ja alan seuraajat odottavat AMD:n hinnoittelevan Halo Stationin kilpailukykyisesti samaan luokkaan joko NVIDIAn hintoja vastaavaksi tai niitä edullisemmaksi markkinastrategiasta riippuen.

AMD:n komponenttistrategiassa on myös käytännön etu: monet Halo Stationin osista ovat peräisin tavanomaisista palvelin- ja työasemaekosysteemeistä. Tämä tekee huollosta ja tulevista päivityksistä vähemmän toimittajalukittuja ja modulaarisempia. Se voi houkutella laboratorioita ja studioita, jotka suunnittelevat laitteistohankintojaan vuosien päähän.

Lyhyesti AMD:n viesti yhdistää teknisen käytännöllisyyden ja kunnianhimon: kehittäjille tarjotaan tutut työkalut, mahdollisuus ajaa massiivisia malleja paikallisesti sekä laitteisto, jota voidaan huoltaa ja skaalata ilman toimittajalukkoa. Jos markkinat reagoivat, vuodesta 2027 voi tulla hetki, jolloin työpöytätason tekoäly lakkaa olemasta marginaalinen vaihtoehto ja alkaa tuntua järkevältä valinnalta vakaville tiimeille.