Metan oma piiriprojekti keskeytettiin: keskeiset syyt

On järkyttävää, kun teknologiajätti hiljaisesti hylkää tähtiprojektin. Meta osti lupaavan startupin vähentääkseen riippuvuuttaan ulkoisista GPU:ista, mutta projekti näyttää törmänneen seinään.

Viime vuonna Meta osti Rivoksen noin 1,85 miljardilla eurolla, aloite jolla pyrittiin tuomaan yritykseen räätälöityä piiriteknistä osaamista. Kuusi kuukautta kaupan sulkeutumisen jälkeen lähteiden mukaan integraatio on takunnut. Yli neljännes Rivosin Metaan siirtyneestä henkilöstöstä irtisanottiin, ja Metan tekoälymallien koulutukseen tarkoitetun sirun kehitys on keskeytetty.

Kun kunnianhimo kohtaa mittakaavan

Rivos perustui RISC-V:hen, avoimeen käskykantaan, joka lupaa joustavuutta. Startup oli kerännyt noin 345 miljoonaa euroa ennen ostoa ja toimittanut jopa CUDA-yhteensopivan prosessorin TSMC:lle koevalmistusta varten. Paperilla se kuulostaa konkreettiselta. Todellisuus on sekavampi.

Miksi se jumiutui? Useita kovia totuuksia. Kilpailevan tekoälyn koulutussirun suunnittelu ei ole pelkkää piirituotantoa. Tarvitaan yhtenäinen ohjelmistopino, tiivis integraatio datakeskusinfrastruktuuriin, kääntäjät jotka muuntavat korkean tason kehykset, ja vuosien suorituskyvyn hienosäätö. Metan tiimien piti sovittaa yhteen laitteisto, matalan tason ohjelmisto ja laaja infrastruktuuri yrityksessä, joka jo pyörittää joitakin maailman suurimmista koneoppimisen työkuormista. Yhteensovittaminen osoittautui paljon vaikeammaksi kuin odotettiin.

Lisäksi on yhteensopivuusongelma. Meta halusi piirejä, jotka toimivat olemassa olevan CUDA-pohjaisen työkalupaketin kanssa helpottaakseen käyttöönottoa. Sellaisen laitteiston rakentaminen, joka käyttäytyy kuten vakiintuneet GPU:t mutta tarjoaa tehokkuutta ja alhaisemman kustannuksen per koulutussykli, on teknisesti vaativaa ja riskialtista. Lisää mukaan valmistuskumppanit, validointitestit ja aikataulujen karut tosiasiat. Viiveet seuraavat.

Strategisesti idea oli järkevä. Räätälöidyt piirit lupasivat alhaisempia pitkän aikavälin kustannuksia ja enemmän kontrollia verrattuna kaupallisiin GPU:ihin. Mutta kustannussäästöt realisoituvat vain, jos laitteisto saavuttaa suorituskyky- ja luotettavuustavoitteet. Se on kova vaatimus, kun vaihtoehto, eli toimittajat kuten Nvidia, jatkavat uusien kiihdyttimien sukupolvien tuomista markkinoille.

Mitä seuraavaksi tapahtuu? Tällä hetkellä työ on keskeytetty, ei lopetettu. Meta voi järjestäytyä uudelleen. Se voi kaventaa projektin tavoitetta, panostaa kumppanuuksiin tai siirtää osaajia lyhyen aikavälin infrastruktuurihankkeisiin. Se saattaa myös ylläpitää joitakin RISC-V-kokeiluja samalla kun tuotantotyökuormissa luotetaan todistettuihin kiihtyttimiin.

Metan pyrkimykset kehittää omia räätälöityjä piirejä ovat kohdanneet merkittävää kitkaa, mutta keskeytys kuvastaa ennemmin ohjelmiston, laitteiston ja mittakaavan yhteensovittamisen vaikeutta kuin yksinkertaista mielentilan muutosta.