Xiaomin AI Cube: kompakti prototyyppi datakeskusteholla

Kuvittele kämmenen kokoinen pöytäkone, joka yrittää tunkea datakeskuksen kenkälaatikkoon. Xiaomin prototyyppi AI Cube tuntuu juuri sellaiselta kokeilulta: kompakti, tarkka ja suorasukaisesti kunnianhimoinen.

Pieni laatikko, suuri kunnianhimo

Tämän minitietokoneen ytimessä on kolme kotimaista sirua, nimiltään XRING O3, XRING O100 ja XRING D100. O3 on päätason tekoälymoottori: 10-ytiminen CPU yhdistettynä 16-ytimiseen G2-Ultra NX GPU:hun ja matalatehoiseen NPU:hun, jonka suorituskyky on noin 200 TOPS. Lyhyitä puhtaan läpiviennin piikkejä. Pitkiä jaksoja tehokasta päätelmää.

O100 toimii suuren kaistanleveyden kiihdyttimenä. 6 nm prosessilla valmistettu se väittää tarjoavansa 28 672 tehokasta dataväylää ja lähellä muistia tapahtuvaa laskentakaistaa noin 1,22 TB sekunnissa. Tällainen paikallinen läpivienti on tärkeää, kun haluat ajaa suurempia kielimalleja ilman, että joudut koko ajan turvautumaan pilveen.

Ja sitten on D100, 3 nm suunnittelu joka on suunnattu ajamiseen ja havaitsemistehtäviin. Se tuo 20 tehokasta laskentaydintä, 16-ytimisen NPU:n ja tuen jopa 160 GB muistille. Kolmikko on tarkoitettu jakamaan työtehtäviä: yleinen orkestrointi, raskas laskenta ja I/O-herkkä kiihdytys.

Fyysisesti AI Cube on päällystetty ilmailuluokan alumiinilla, työstetty 33 874 CNC-leikkauksella. Xiaomi sanoo, että kotelo kestää turvallisesti jatkuvan virransyötön jopa 150 wattia. Tämä kertoo, ettei kyse ole passiivisesta demosta; se on rakennettu ajamaan vaativia malleja pitkiä aikoja.

Mihin sitä käytetään? Paikallinen päätelmä. Xiaomi esittää Cuben laatikkona, joka voi isännöidä kielimalleja noin 3 miljardista 120 miljardiin parametria offline-tilassa, paikallisesti. Ajattele yksityisyyteen keskittyviä avustajia, laitteessa toimivia koodausapureita tai reuna-AI-työkaluja, jotka eivät voi sietää viivettä tai pilveen perustuvaa riippuvuutta. Fyysinen kytkin antaa käyttäjien vaihtaa korkean suorituskyvyn ja vähävirtaisen tilan välillä tehtävästä riippuen.

Taustaa on syytä muistaa. Muut erikoistuotteet, kuten Tiiny AI Pocket Lab, ovat jo osoittaneet, että 120 miljardin mallien ajaminen kompaktissa muodossa on mahdollista. Xiaomin käänne on se, että se käyttää omistettua piirirakennetta ja piisirua sen sijaan, että pakkaisi kolmannen osapuolen kiihdyttimiä uudelleen.

Tällä hetkellä AI Cube on prototyyppi. Xiaomi ei ole paljastanut hinnoittelua tai julkaisuaikataulua, joten jää nähtäväksi, tuleeko siitä kaupallinen tuote vai jääkö se teknologianäytteeksi. Yksi utelias sivuhuomautus: promokuvien varhaiset konekäännökset vaihtivat raportoidusti XRING-nimet toiseen tunnisteeseen, mikä aiheutti hetkellistä sekaannusta julkisuudessa. Peruslaitteisto näyttää kuitenkin olevan tarkoituksellisesti Xiaomin oma.

Lopputulema: AI Cube viestii Xiaomin kunnianhimosta hallita enemmän koko pinoa, aina piiristä palveluihin, ja tuoda korkean suorituskyvyn tekoäly lähemmäs käyttäjää. Haluaako markkina vielä yhtä reunalaitepäätettä, on vielä nähtävissä. Mutta teknisenä kannanottona sitä on vaikea sivuuttaa.