ByteDancen 10 biljoonan parametrin tekoälykilpa kiihtyy

ByteDance on hiljaisesti käynnistänyt koulutuksen jättiläiselle: tekoälymallille, jossa on noin 10 biljoonaa parametria. Se on rohkea askel, joka asettaa yhtiön globaalin mallien mittakaavaa ja suorituskykyä koskevan kilpavarustelun keskelle.

Esikoulutus on käynnissä, lähteiden mukaan. Vaihe, jossa malli imee valtavia määriä raakadataa oppiakseen kuvioita, kestää tyypillisesti kolmen ja kuuden kuukauden ajan ennen hienosäätöä ja julkaisua. Parametrit ovat sisäisiä asetuksia, joita malli käyttää tiedon koodaamiseen; ne eivät kerro koko totuutta, mutta ovat laajalti käytetty lyhennys mallin koosta ja potentiaalista.

Miksi mittakaava on tärkeä? Suuremmat mallit pystyvät sieppaamaan enemmän vivahteita ja yleistämään tehtävissä paremmin, vaikka tuotto ei kasva lineaarisesti ja tehokkuus on yhä merkityksellinen. ByteDancen raportoitu 10 biljoonan tavoite tekisi tästä mallista yli kolme kertaa suuremman kuin Kimi K3, kiinalaisen startupin 2,8 biljoonan parametrin järjestelmä, ja huomattavasti suuremman kuin aiemmat kotimaiset tulokkaat kuten LongCat-2.0 ja V4-Pro, joissa molemmissa on noin 1,6 biljoonaa parametria.

Suorat vertailut johtaviin yhdysvaltalaisiin järjestelmiin ovat edelleen hankalia. Yritykset kuten Anthropic ja OpenAI julkaisevat harvoin täsmällisiä parametrilukemia lippulaivamalleistaan. Riippumattomat arviot sijoittavat Anthropicin kehittyneemmän tarjonnan, Mithos 5:n, lähelle kahdeksaa biljoonaa parametria ja Fable 5:n lähelle viittä biljoonaa. Jos nämä arviot pitävät paikkaansa, ByteDancen uusi hanke sijoittaisi sen vastaavalle alueelle kuin Anthropicin kehittyneimmät järjestelmät.

Tarinaan liittyy myös logistiikan ja kustannusten ulottuvuus. Tällaisessa mittakaavassa koulutus on kallista ja energiaintensiivistä. Kiinalaiset teknologiayritykset kilpailevat kehityssyklejä tiivistämällä ja puristaen enemmän tehokkuutta pinoistaan, pyrkien tuomaan markkinoille tehokkaita järjestelmiä ilman hallitsemattomia käyttökustannuksia. Se on pragmaattinen vastaus vaativille markkinoille.

Se, ratkaiseeko pelkkä parametrien määrä voittajat, on yhä avoin kysymys, mutta ByteDancen ponnistus korostaa, miten kilpailun eturaja on siirtynyt älykkäistä tutkimuspapereista teollisen mittakaavan suunnitteluun ja käyttöönottoon.

Odotettavissa on enemmän ilmoituksia ja asteittaisia parannuksia sen sijaan, että nähtäisiin yksi yksittäinen ratkaiseva läpimurto. Todellinen taistelu koskee sitä, miten nämä järjestelmät viritetään, skaalataan ja integroidaan tuotteisiin, joita ihmiset oikeasti käyttävät.