Muisti muodostuu hiljaiseksi pullonkaulaksi nopeamman tekoälyinferenssin kilpailussa. SK hynix siirsi tilannetta eteenpäin toimittamalla uusia HBM4E-näytteitä kumppaneille ja lisäten painetta muistikaistanleveyteen kiihdytinsuunnittelussa.
Lyhyesti: se on nopeampi. SK hynixin HBM4E saavuttaa 16 Gbps pinniä kohti, kun aiemman HBM4-spesifikaation nopeus oli 10 Gbps. Samsung, pysyäkseen mukana, aloitti noin kuukautta aiemmin 14 Gbps -mallin näytteiden toimittamisen, mutta SK hynixin hyppy on merkittävä, koska suorituskyvyn parannukset tuovat usein mukanaan vaikeita kompromisseja. Tällä kertaa tämä ei päde.
SK hynixin HBM4E saavuttaa 16 Gbps pinniä kohti ja 48 GB 12 sirukiekon pinossa.
Yhtiö pinottaa 12 sirukiekkoa yhteen pakettiin, mikä tuottaa 48 GB per pino. Tämä on tärkeää, koska useimmat tekoälykiihdyttimet eivät nojaudu vain yhteen pinoon; niissä yhdistellään useita HBM-pinon paketteja ruokkimaan suuria piirille sijoitettuja matriiseja. Suurempi kapasiteetti per pino yksinkertaistaa piirilevyn suunnittelua ja vähentää pakkauskompleksisuutta tiheissä kiihdytinmoduleissa.
Tehokkuus on tämän sukupolven käytännöllinen viesti. SK hynixin mukaan HBM4E on noin 20 prosenttia energiatehokkaampi kuin aiempi HBM4. Parempi tehokkuus on yksi tärkeimmistä tekijöistä tekoälyn käytettävyyden kannalta - voit lisätä kaistanleveyttä, mutta jos et saa lämpöä pois, käytännön hyödyt katoavat. SK hynix käyttää Mass Reflow -muotoiltua alitäyttöprosessia (MR-MUF), jossa suojanestettä injektoidaan piisirujen väliin paketin stabiloimiseksi. Tuloksena on noin 17 prosenttia alhaisempi lämmönvastus verrattuna vanhempaan lähestymistapaan, mikä helpottaa jäähdytysjärjestelmiä.
Miksi lämmönvastus on niin ratkaiseva? Kun hyllyt täyttyvät kiihdyttimistä, jokainen säästetty watti ja jokainen laskettu aste liitospisteen lämpötilasta pidentää luotettavuutta ja yksinkertaistaa datakeskusten jäähdytyskustannuksia. Suunnittelijat eivät pidä yllätyksistä. Alhaisempi lämmönvastus on sellainen ennustettava parannus, jonka ympärille voi rakentaa tuotteen tiekartan.
Vaikutukset ovat laajempia. Nopeammat pinnit ja suuremman tiheyden pinot antavat sirusuunnittelijoille mahdollisuuden ajatella uudelleen välikerrosasetteluita ja muistikanavia. He voivat joko painaa raakaa laskentatehoa kovempaan käyttöön tai skaalata malleja, jotka aiemmin törmäsivät muistin rajoihin. Yksinkertaisella kielellä: suurempia malleja, tiheämpää inferenssiä tai samoja malleja, jotka toimivat edullisemmin ja viileämmin.
SK hynix esitteli näyte-erien toimittamisen aikataulun mukaisena virstanpylväänä, jonka taustalla on valmistuskokemus. Viesti on selkeä: yhtiö odottaa kumppaneiden aloittavan kelpuutustyön ja siirtyvän kohti massatuotantoa. Ajoitus on tärkeää asiakkaille, jotka suunnittelevat piiri- ja moduulijulkaisuja; varhainen pääsy näytteisiin lyhentää tätä sykliä.
Kaikki tekoälytyökuormat eivät tarvitse kaikkein uusinta huippua. Mutta hyperskalaajat ja tekoälylaitteistoja kehittävät startupit, jotka tavoittelevat maksimaalista läpivirtaamaa, löytävät HBM4E:n kaistanleveyden, kapasiteetin ja lämmönhallinnan yhdistelmästä houkuttelevia etuja. Muuttaako se seuraavan sukupolven kiihdyttimiä? Ehkä. Seuraava kysymys on, kuinka nopeasti ekosysteemi - välikerrokset, jäähdyttimet ja järjestelmäsuunnittelijat - mukautuu hyödyntämään näiden pinottujen ratkaisujen tuomaa marginaalia.
Jos välität tekoälylaitteiston tulevaisuudesta, seuraa muistikehitystä tiiviisti. Se muuttaa kilpailua usein hiljaisesti, kunnes yhtäkkiä näin ei enää ole.
"Olen tietoturva-asiantuntija ja seuraan kyberturvallisuuden trendejä. Diginissä jaan vinkkejä ja uutisia, joilla pysyt turvassa digitaalisessa maailmassa."
Keskustelu
Jätä kommentti
Kommentit
Ei vielä kommentteja. Ole ensimmäinen.