Samsungin PM1763: PCIe 6.0 SSD nopeuttaa tekoälyä nopeasti

Kuvittele datakeskus, jossa tallennus ei enää muodostakaan pullonkaulaa älykkäimmille tekoälymalleille. Tulevaisuus otti juuri konkreettisen askeleen eteenpäin. Samsung Electronics on aloittanut PM1763-SSD:n massatuotannon, joka perustuu PCIe 6.0:aan ja on viritetty seuraavan sukupolven tekoälypalvelimille sekä huipputehon laskentaympäristöille, kuten NVIDIA Vera Rubin.

Tekoälyn koulutus- ja päätelmädatamäärät kasvavat nopeasti. Nopea ja tasainen pääsy näihin datoihin on nyt yhtä kriittinen kuin ne GPU:t ja kiihdyttimet, jotka tekevät laskentatyön. Samsung vastaa tähän tarpeeseen yhdistämällä yhdeksännen sukupolven V-NANDin juuri kehitettyyn 4 nanometrin ohjaimeen, yhdistelmä joka parantaa sekä läpäisykykyä että energiatehokkuutta.

Mitä PM1763 tuo palvelinräkkiin

Saatavana 4, 8 ja 16 teratavun kapasiteeteissa, PM1763 panostaa raakanopeuteen. 16 teratavun malli saavuttaa peräkkäisellä lukemisella nopeuksia jopa 28,400 MB/s ja peräkkäisellä kirjoituksella jopa 21,900 MB/s, Samsungin mukaan. Tämä edustaa yli kaksinkertaista suorituskykyä verrattuna edelliseen PM1753-sukupolveen.

Samsung kertoo, että 40 gigatavun suuri kielimalli voidaan siirtää noin 1,4 sekunnissa, mikä pienentää dataviivettä prosessorien ja kiihdyttimien välillä ja parantaa koko tekoälyn läpäisykykyä.

Noiden otsikkolukujen takana on insinöörityötä. Asema tukee suoraa sirujäähdytystä, joten se on valmis nestejäähdytettyihin palvelinympäristöihin, joissa jatkuvat työkuormat ja pitkät käyttöajat ovat normi. Lämpöstabiilisuus kuormituksen alla on tärkeää tasaisen suorituskyvyn kannalta, ja Samsung raportoi myös yli 1,8-kertaisen parannuksen energiatehokkuudessa verrattuna edelliseen sukupolveen, mikä kääntyy pienemmiksi käyttökustannuksiksi laajassa mitassa.

Mitä tämä siis muuttaa käytännön tekoälykäyttöönotossa? Lyhyemmät mallin latausajat, vähentyneet I/O-odotusajat ja kyky syöttää kiihdyttimiä suuremmilla työjoukoilla ilman jumiutumista. Käytännössä tämä tarkoittaa nopeampaa iterointia kehittäjille ja ennakoitavampaa latenssia tuotannon päätelmissä.

Tallennus ei ole enää passiivinen kerros pinossa. Se on aktiivinen mahdollistaja nopeammalle ja tiheämmälle tekoälyn laskennalle. Samsungin PM1763 vaikuttaa olevan sellainen laitteistopäivitys, joka heijastuu datakeskuksiin, joissa ajetaan huippumalleja ja vaativia HPC-kuormia.

Odotettavissa on ensin varhaista käyttöönottoa hyperskaalin ja yritysalueen klustereissa, ja laajempi käyttöönotto seuraa, kun järjestelmätoimittajat integroivat PCIe 6.0 NVMe -laitteita palvelinsuunnitteluihin. Kilpailu jokaisen millisekunnin poistamisesta tekoälyputkissa jatkuu, ja tämä on merkittävä uusi nuoli jousikassissa.