Microsoft esitteli Maia 300: tehokas 3. sukupolven AI-piiri

Microsoft on julkistanut Maia 300:n, kolmannen sukupolven räätälöidyn tekoälyinferenzsipiirin. Yhtiön mukaan se käsittelee megawattia kohden noin 40 prosenttia enemmän tokeneita kuin johtavat GPU-pohjaiset järjestelmät. Microsoft asemoi Maia 300:n nimenomaan inferenssiä varten suunnitelluksi kiihdyttimeksi, josta on tarkoitus tulla yhtiön tuotteiden ja palveluiden ensisijainen inferenssi-infrastruktuuri.

Microsoft odottaa Maia 300:n siirtyvän tuotantokäyttöön vuonna 2027. Microsoftin pilvilaskennan varatoimitusjohtaja Scott Guthrie sanoi lausunnossaan, että parannukset antavat yhtiölle mahdollisuuden tukeutua enemmän omiin räätälöityihin piireihinsä ja vähentää riippuvuuttaan Nvidiasta ja AMD:stä. Guthrien mukaan Microsoft alkaa vuodesta 2027 lähtien kehittää Azure Maia -piiriperhettä monigigawatin mittakaavassa, jotta siitä voi tulla yhtiön pääasiallinen inferenssi-infrastruktuuri.

Suorituskyky ja rooli Microsoftin alustakokonaisuudessa

Täyteen konfiguroiduissa 96 kiihdyttimen kokoonpanoissa Maia 300 voi kasvattaa laitetason token-käsittelyn läpäisykyvyn jopa seitsenkertaiseksi Maia 200:aan verrattuna. Microsoft esitteli edellisen sukupolven piirin vasta tammikuussa. Maia 200 on jo käytössä useissa Microsoftin työkuormissa, kuten Microsoft Copilotissa, GitHub Copilotissa, Microsoft Foundryssa ja yhtiön omissa tekoälymalleissa. Guthrien mukaan Maia 200 säilyy Microsoftin ympäristön parhaana laskentainfrastruktuurina todellisten tekoälypalvelujen suorituskykymittareilla mitattuna, kun taas Maia 300 on suunniteltu kokonaisvaltaiseksi järjestelmäksi seuraavan sukupolven tekoälytyökuormille.

Microsoft kuvailee Maia 300:aa optimoiduksi pitkää kontekstia vaativiin päättelytyökuormiin, vähäviiveisiin keskustelukokemuksiin ja jatkuviin monivaiheisiin agenttitehtäviin. Yhtiö korostaa, että piiri on suunnattu inferenssiin, ei koulutukseen.

Piirin arkkitehtuuri ja valmistus

Maia 300 hyödyntää chiplet-arkkitehtuuria, joka valmistetaan TSMC:n N2P-prosessilla. Microsoftin mukaan rakenne erottaa laskentayksiköt, muistiohjaimen ja I/O-toiminnot toisistaan, jolloin suurempi osa sirupinta-alasta voidaan varata laskennalle ja jokaisessa lohkossa voidaan käyttää sen tehtävään räätälöityä teknologiaa. Azure-laitteisto- ja infrastruktuuritiimin mukaan lähestymistapa parantaa tehokkuutta ja mahdollistaa piirin optimoinnin tiettyihin inferenssitehtäviin.

Microsoft myös viittaa siihen, että Maia 300:lla on merkittävä rooli yhtiön mallien kehitys- ja käyttöönottosuunnitelmissa. Microsoft AI:n toimitusjohtaja Mustafa Suleyman sanoi, että yhtiön on kehitettävä teknologiapinon kaikki kerrokset malleista silikoniin asti. Microsoftin tavoittelema mittakaava edellyttää hänen mukaansa omistettua alustaa, joka on suunniteltu yhdessä mallien kanssa. Hän lisäsi, että Microsoftin omien mallien ajaminen Maialla on tiimin korkein prioriteetti.