Optinen AI-siru: valolla toimiva tietojenkäsittely

Yhdysvaltalainen startup, jota rahoittaa Bill Gatesin Gates Frontier Fund, on paljastanut kokeellisen tekoälyprosessorin, joka käyttää elektroneiden sijaan valoa. Neurophos kertoo, että sen optinen siru voi tarjota merkittäviä parannuksia suorituskyvyssä ja energiatehokkuudessa, ja se tarjoaa vaihtoehtoisen polun tekoälyn skaalaamiseen perinteisten piisirujen ja grafiikkaprosessoreiden (GPU) rajoitusten yli. Uutinen on herättänyt kiinnostusta erityisesti fotoniikan, optisen laskennan ja datakeskusarkkitehtuurien yhteydessä, koska tehokkaampi laskenta voi vaikuttaa suoraan käyttökustannuksiin ja ympäristövaikutuksiin.

Elektroneista fotoneihin: erilainen tapa laskea

Perinteisissä siruissa informaatiota käsitellään sähköisten varauksien liikuttamisena puolijohdeteiden ja transistorien läpi. Neurophosin lähestymistavassa laskenta toteutuu sen sijaan fotonien avulla: valon hiukkaset (fotoni) suorittavat matemaattisia operaatioita optisissa verkostoissa. Valo vaihtaa tiloja hyvin nopeasti ja tuottaa huomattavasti vähemmän hukkaenergiaa kuin sähköinen virta, mikä teoriassa mahdollistaa huomattavasti suuremman läpivirtauskapasiteetin sekä pienemmän tehonkulutuksen saman laskentatyön suorituksessa. Lisäksi fotonit voivat hyödyntää ominaisuuksia kuten taajuusjakamista (wavelength-division multiplexing) ja vaihe- tai amplitudikoodattuja signaaleja matriisilaskentaan, mikä avaa uusia mahdollisuuksia rinnakkaislaskennassa ja tiedonsiirrossa sirun sisällä ja sen välillä.

Yritys väittää ratkaisseensa yhden keskeisen pullonkaulan optisessa laskennassa: optisten komponenttien kutistamisen tiheydelle, joka on yhteensopiva nykyisten piirivalimoiden (foundries) tuotantoprosessien kanssa. Käytännössä tämä tarkoittaa optisten elementtien pakkaamista siten, että yhdelle fyysiselle sirulle voidaan toteuttaa yksi suuri optinen matriisinen laskentaverkko sen sijaan, että hyödynnettäisiin kymmeniä tai satoja erillisiä elektronisia ytimien kopioita. Tämä tiheys- ja integraatiokehitys on keskeinen askel kohti kaupallistettavaa optista piiriarkkitehtuuria ja voi alentaa valmistuskustannuksia sekä helpottaa yhteensovitusta olemassa oleviin tuotantoympäristöihin.

Teknisesti optinen matriisilaskenta voi perustua erilaisiin ilmiöihin kuten interferenssiin, optisiin modulointikenttiin ja valon intensiteetin mittaukseen. Esimerkiksi Mach–Zehnder-interferometrien kaltainen komponenttivalikoima mahdollistaa kertoimien ja vaiheiden hallinnan lineaaristen matriisitoimintojen toteuttamisessa. Toisaalta käytännön toteutuksessa on huomioitava lineaarisuuden rajat, häviöt optisissa johtimissa, faasin stabiilisuus ja herkkyys ympäristömuutoksille. Näiden tekijöiden hallinta vaatii tarkkaa suunnittelua, kalibrointia ja laadunvalvontaa tuotantovaiheessa.

Mitä tämä merkitsee verrattuna nykyisiin tekoälysiruihin

Nykyiset markkinajohtajat, kuten Nvidia ja muut GPU-valmistajat, perustavat ydinlaskentansa edelleen elektronisiin kytkentöihin ja transistorilogikkaan. Nvidia on tuonut mukaan fotoniikkaa lähinnä väylien ja sirujen välisen tiedonsiirron nopeuttamiseksi ja kapasiteetin kasvattamiseksi—käytännössä fotoniikkaa hyödynnetään lyhyen ja keskipitkän kantaman linkeissä, mutta matemaattisten operaatioiden itse suorittaminen tehdään edelleen elektroneilla. Neurophos tavoittelee aitoa optista laskentaa, jossa fotonit suorittavat ydinmatriisiopeutuksia, joita neuroverkot käyttävät inferenssi- ja osin harjoitusvaiheissa. Tällainen muutos voi muuttaa datakeskusten nykyisiä kompromisseja suorituskyvyn, viiveen ja tehontarpeen välillä.

Optisen laskennan tärkeimpiin potentiaalisiin etuihin kuuluu matriisilaskennan erittäin korkea rinnakkaistaminen: monet operaatiot voidaan tehdä samanaikaisesti eri aallonpituuksilla tai eri optisilla poluilla ilman, että tarvitaan vastaavaa määrää transistoripohjaista logiikkaa. Tämä voi johtaa matriisilaskennan suorituskyvyn kasvuun per watt, mikä on kriittistä erityisesti suurten kielenmallien ja muiden massiivisten neuroverkkoarkkitehtuurien suorittamisessa. Lisäksi vähemmän lämpöä tuottava laskenta voi alentaa jäähdytykseen liittyviä kustannuksia ja helpottaa tiheän palvelinrakenteen rakentamista datakeskuksiin.

On kuitenkin muistettava, että optinen laskenta ei poista kaikkia elektroniikan tarpeita: datan syöttö ja tulosten lukeminen vaativat yleensä conversion (optoelektroniset ja elektroniset rajapinnat), mikä voi olla pullonkaula. Myös tarkkuusvaatimukset (esimerkiksi 8-bittinen, 16-bittinen tai liukulukutarkkuus) ja numeerinen vakaus ovat kriittisiä tekijöitä. Optisilla alustoilla on haasteita esimerkiksi kohinatasossa, toistettavuudessa sekä muuttujien kalibroinnissa, joten ohjelmistotyökalut ja laskentamallit täytyy usein räätälöidä optisen alustan vaatimuksiin. Käytännössä tämä tarkoittaa myös uusia ohjelmistopinnoitteita, optimointialgoritmeja ja mahdollisesti heterogeenisiä järjestelmiä, joissa optiset ja elektroniset komponentit toimivat yhdessä maksimoiden kunkin teknologian vahvuudet.

• Nopeammat kytkentänopeudet: fotonit voivat vaihtaa tilaa nopeammin kuin elektronit, mikä mahdollistaa joidenkin operaatioiden korkeammat 'kellonkaltaiset' taajuudet ja paremman läpivirtauksen.
• Alhaisempi lämmöntuotto: vähemmän hukkaenergiaa pienentää jäähdytystarvetta ja parantaa energiatehokkuutta suurissa inferenssi- tai harjoitusjärjestelmissä, mikä voi merkittävästi vähentää datakeskusten energiankulutusta.
• Tiheämpi laskentakudos: yksi suuri optinen matriisi saattaa yksinkertaistaa tiedon liikuttamista sirun sisällä verrattuna satojen hajautettujen elektronisten ytimien käyttämiseen, mikä vähentää datan reitityskustannuksia ja viiveitä.

Todellisuustarkastus: suuria haasteita on edessä

Vaikka lupaavat väitteet ovat kiinnostavia, Neurophosilla ja muilla optista laskentaa kehittävillä yrityksillä on edessään vuosien insinööri- ja validointityö ennen massatuotantoa ja laajaa käyttöönottoa. Optiset komponentit käyttäytyvät eri tavalla kuin transistorit: ne ovat herkkiä faasinmuutoksille, lämpötilavaihteluille ja mekaaniselle epästabiilisuudelle. Lisäksi optinen toteutus vaatii tarkkaa kalibrointia ja usein jatkuvaa kompensointia reaaliajassa, jotta laskennan tarkkuus säilyy suurissa matriisitoiminnoissa. Tämä tarkoittaa uusien testausprosessien, kalibrointityökalujen ja validointisarjojen kehittämistä sekä tiukkojen luotettavuustutkimusten tekemistä pitkän elinkaareen ja toimintaan datakeskusolosuhteissa.

Ohjelmistopuoli on yhtä kriittinen: koko ketju — kääntäjät (compilerit), matriisikirjastot, optimointityökalut ja runtime-järjestelmät — joutuu joko rakentamaan uudelleen tai mukauttamaan olemassa olevia ratkaisuja optisen alustan erityispiirteisiin. Esimerkiksi numeerinen stabiilisuus, bittitarkkuuden hallinta ja virrankulutuksen optimointi vaativat uudenlaisia abstraktioita, jotta kehittäjät voivat siirtää nykyisiä mallejaan ilman merkittäviä tarkkuusmenetyksiä. Integraatio olemassa oleviin datakeskus-ekosysteemeihin — kuten konttialustoihin, orkestrointityökaluihin ja verkkoarkkitehtuureihin — on myös välttämätöntä, mikä lisää toteutuksen monimutkaisuutta.

Lisäksi luotettavuustestaus tuotantokelpoisella volyymilla on kallista ja aikaa vievää. Jopa pienet komponenttivirheet tai alhaisempi tuotantoyksittäisten laitteiden tuottoprosentti voivat nostaa kustannuksia merkittävästi. Siksi vaikka teknologia on lupaava ja rahoitus (kuten Gates Frontier Fund) antaa uskottavuutta, kaupallinen korvaavuus nykyisille GPU-pohjaisille ratkaisuille ei ole vielä välitön tai taattu. Usein markkinoille tulee ensimmäiseksi erikoistuneita optisia kiihdyttimiä tiettyihin tehtäviin (kuten inferenssiin tai tiettyjen suureiden matriisilaskuihin), ei välttämättä yleiskäyttöisiä vaihtoehtoja kaikkiin GPU:n tehtäviin.

Silti Gates Frontier Fundin tuki ja alan keskustelu — jonka ensimmäiseksi raportoi Tom's Hardware — osoittavat kasvavaa kiinnostusta vaihtoehtoihin, kun silikonin perinteinen skaalautuvuus kohtaa fysikaalisia rajoja. Kuvittele energiankulutukseltaan suuria inferenssirivejä korvattavan kompaktiilla optisilla moduuleilla, jotka leikata sähkölaskuja ja lämmöntuottoa: se voi kuulostaa futuristiselta, mutta yritykset kuten Neurophos työntävät sitä tulevaisuutta lähemmäs todellisuutta askel kerrallaan. Vaikka aikajana on epävarma, useiden rinnakkaisten tutkimus- ja kehitysprojektien olemassaolo kasvattaa todennäköisyyttä, että optinen laskenta löytää sovelluksia ainakin osassa AI-infrastruktuuria vuosikymmenen kuluessa.

Kuka voittaa piirikilpailun?

Nvidia on edelleen markkinan johtava toimija ja säilyttää todennäköisesti vahvan aseman vuosia eteenpäin ekosysteemin kypsyyden, laajan ohjelmistotuen ja valmistuskapasiteetin ansiosta. Suuret valmistajat ovat investoineet merkittävästi sekä laitteisto- että ohjelmistokehitykseen, ja heidän ratkaisunsa hyötyvät laajasta työkalustosta, yhteisön tuesta ja järjestelmäintegraatioista. Tämä antaa etulyöntiaseman erityisesti yleiskäyttöisessä koulutuksessa ja monipuolisissa sovelluksissa, joissa yhteensopivuus ja laaja tuki ovat ratkaisevia.

Toisaalta optinen laskenta voi muodostua vahvaksi täydentäväksi teknologiseksi joukkoon: erikoistuneet optiset kiihdyttimet voivat osoittautua tehokkaiksi inferenssiin tai suuriin matriisipainotteisiin töihin, kun taas elektroniset GPU:t säilyttävät paikkansa yleiskäyttöisenä ratkaisuna harjoitukseen ja sovellustensa monimuotoisuuden vuoksi. Tällainen heterogeeninen infrastruktuuri — jossa optiset moduulit ja elektroniset GPU:t toimivat rinnakkain — on realistinen kehityskulku. Se mahdollistaa hyötymisen kunkin teknologian vahvuuksista: esimerkiksi optisten yksiköiden erinomainen suorituskyky per watt suurissa matriisitoiminnoissa ja elektronisten yksiköiden joustavuus, ohjelmistotuki ja numeerinen tarkkuus.

Todellinen kysymys ei ehkä ole, kaatuuko Nvidia heti, vaan miten AI-laitteistoekosysteemi kehittyy seuraavan vuosikymmenen aikana ja kuinka photoniikka voi muokata suorituskyky- ja energiamittareita. Menestys edellyttää sekä teknisiä läpimurtoja että käytännön ratkaisuja, kuten hyvää kokonaiskustannustehokkuutta, helppokäyttöisiä ohjelmistotyökaluja ja luotettavaa tuotantoa. Yritykset, jotka pystyvät tarjoamaan toimivan yhdistelmän laitteistoa, ohjelmistoa ja tuotantointgratiota datakeskusympäristöihin, nousevat todennäköisimmin voittajiksi. Neurophos ja muut fotoniikkaan keskittyvät startupit voivat toimia katalysaattoreina muutoksessa, mutta laajempi murros vaatii teollisuuslaajuisia investointeja ja aikaa.