OpenAI:n Jalapeno-piiri laajentaa tekoälyn laskentaa

Kompakti siru saapui OpenAI:lle tällä viikolla ja se vaikutti olevan enemmän kuin pelkkä laitteisto. Se oli viesti. Jalapenoksi nimetty uusi ASIC on OpenAI:n ensimmäinen oma siruprojekti, kehitetty yhteistyössä Broadcomin kanssa nopeuttamaan tekoälyn päättelyä yritykselle, joka toi ChatGPT:n maailmalle.

OpenAI kutsuu suunnitelmaa Älyprosessoriksi ja kuvailee sitä ensimmäiseksi kiihdyttimeksi alustassa, jota yhtiö rakentaa ajaakseen kehittyneitä malleja nopeammin, luotettavammin ja suuremmassa mittakaavassa. Broadcom valmistaa piin. OpenAI kertoo suunnitelleensa Jalapenon noin yhdeksässä kuukaudessa ja kehittäneensä myös suuria osia niistä laskenta-järjestelmistä, joissa nämä sirut toimivat.

Miksi tämä merkitsee tekoälyn laskennassa

Nvidian GPU:t ovat olleet nykyaikaisen tekoälyn selkäranka. Ne ovat joustavia ja tehokkaita. Mutta niissä on korkeat hinnat ja toimituspullonkaulat. ASICit vaihtavat osan joustavuudesta tehokkuuteen ja kustannussäästöihin. Se tekee niistä houkuttelevia, kun työkuorma voidaan tarkasti optimoida. Jalapeno on OpenAI:n veto siihen, että huolellisesti viritetty laitteisto voi tarjota enemmän laskentatehoa wattia kohden ja auttaa yhtiötä laajentamaan pääsyä kehittyneisiin malleihin.

Onko OpenAI jättämässä Nvidian? Ei aivan. Kyse on hajauttamisesta, jonka taustalla on kiihtyvä kysyntä. Tänä vuonna aiemmin OpenAI solmi sopimuksia käyttää Amazonin Trainium-piirejä ja allekirjoitti kumppanuuksia AMD:n ja Cerebrasin kanssa. Nyt, kun Broadcom valmistaa Jalapenoa, OpenAI pyrkii lisäämään toisen luotettavan reitin raakaa laskentatehoa varten rakentaessaan telineitä räätälöityä laitteistoa, joka täydellä mitoituksella voisi vaatia noin kymmenen gigawattia sähköä.

On myös käytännön merkkipaaluja. Fyysinen Jalapeno-näyte toimitettiin keskiviikkona. Yritykset kertovat odottavansa ensimmäisiä käyttöönottoja vuoden 2026 loppuun mennessä ja laajempia käyttöönottoja seuraavina vuosina. Jos aikataulut pitävät, saatamme todistaa merkittävän muutoksen siinä, miten suuria kielimalleja palvellaan tuotannossa.

Broadcom reagoi uutiseen. Sen osake nousi noin kaksi prosenttia ilmoituksen jälkeen. Piirivalmistaja on ollut yksi tekoälymarkkinan voittajista, ja sen osakkeet ovat nousseet noin kymmenen prosenttia vuoden alusta ja lähes seitsemänkertaisiksi myöhäisestä 2022 lähtien, kun suuret pilvipalvelut ja tekoälytutkimuslaboratoriot teettävät räätälöityjä piirejä.

On kompromisseja. ASICit ovat vähemmän joustavia kuin yleiskäyttöiset GPU:t, joten ne toimivat parhaiten yhdessä tarkasti määritellyn ohjelmisto- ja järjestelmäpinon kanssa. OpenAI:n näkemys on, että suunnittelemalla enemmän tästä pinosta itse, se voi puristaa paremman tehokkuuden ja laajentaa pääsyä tehokkaisiin tekoälytyökaluihin. Lyhyesti: rakenna moottori, viritä auto, niin pääset pidemmälle vähemmällä.

Todellinen koetus on suorituskyvyssä todellisissa työkuormissa ja siinä, kuinka nopeasti OpenAI voi skaalata tuotantoa Broadcomin kanssa. Toistaiseksi Jalapeno on rohkea askel kohti laitteistoriippumattomuutta ja muistutus siitä, että tekoälyn toimitusketju kehittyy valmiskomponenteista räätälöityihin alustoihin, jotka on suunniteltu uudelle ohjelmistoluokalle.