Amon: älypuhelimet voivat ajaa 100 miljardin malleja 2028

Qualcommin toimitusjohtajan Cristiano Amonin mukaan osa tekoälyyrityksistä kehittää älypuhelimia, jotka voisivat ajaa 100 miljardin parametrin kielimalleja jatkuvasti vuoteen 2028 mennessä.

Amon esitti kommentin Fireside Alpha -haastattelussa 10. lokakuuta 2026, mutta ei halunnut nimetä mukana olevia yrityksiä.

100 miljardin parametrin mallin ajaminen puhelimessa törmää merkittäviin muistirajoitteisiin. Nelibittisesti kvantisoitu 100 miljardin parametrin malli vaatii noin 50 gigatavua RAM-muistia, ja kaksibittinen versio tarvitsisi silti noin 25 gigatavua pelkästään mallille ennen käyttöjärjestelmää, sovelluksia ja kontekstivälimuistia.

Qualcomm ja muut toimijat pitävät DRAM-muistin saatavuutta ja kustannuksia suurimpina esteinä. Yrityksen mukaan toimiala ei todennäköisesti ylitä lähiaikoina yleistä 16 gigatavun muistirajaa. Valmistajat ovat myös karsineet suuremmalla muistilla varustettuja malleja tiukan DRAM-markkinan vuoksi, vaikka Android-puhelimissa tarjottiin vielä noin vuosi sitten jopa 24GB LPDDR5X-muistia.

Tiheämpien mallien jatkuva päättely lisää myös lämpökuormaa ja kasvattaa lämmöstä johtuvan suorituskyvyn hidastumisen riskiä. Tämä on käytännön rajoite, vaikka muistia olisikin riittävästi saatavilla.

Piiripakettien muutokset, kuten Applen A20 Pro ja Qualcommin Snapdragon 8 Elite Extreme Gen 6, ratkaisevat osan integraatio-ongelmista, mutta eivät poista muistipullonkaulaa.

Teknisiä kiertoteitä ovat muun muassa aggressiivinen kvantointi, joka pienentää muistitarvetta tuntuvasti. Yksibittiset versiot mahtuvat DRAM-muistiin, mutta mallin laatu – erityisesti päättelykyky – heikkenee teollisuuden arvioiden mukaan merkittävästi, kun kvantointi laskee alle neljän bitin.

Toinen vaihtoehto on asiantuntijasekoitus ja asiantuntijoiden siirtäminen, jolloin vain osa asiantuntijoista on aktiivisena RAM-muistissa kutakin tokenia kohti ja loput säilytetään flash-muistissa. Apple on tutkinut mallien ajamista laitteen flash-muistista, mutta UFS- ja NVMe-tallennus ovat edelleen DRAM-muistia hitaampia ja voivat hidastaa päättelyä.

Mallin distillaatio on tällä hetkellä kaupallisempi ratkaisu: distilloidut 20–30 miljardin parametrin mallit voivat päästä laitteella lähelle joidenkin 100 miljardin parametrin mallien suorituskykyä, samalla kun muisti- ja lämpövaatimukset pysyvät hallittavina.

Amon ei esittänyt teknistä tiekarttaa eikä nimennyt kumppaneita. DRAM-muistin saatavuus, kustannukset ja lämpörajoitteet pysyvät keskeisinä haasteina 100 miljardin parametrin mallien natiivissa ajamisessa älypuhelimissa vuoteen 2028 mennessä.