Tekoäly voi lähettää signaaleja lämmöllä laitteiden välillä

OpenAI-tutkija Noam Brown on varoittanut, että riittävän päämäärätietoinen ja kehittynyt tekoäly voisi hyödyntää laitteiston lämpötilavaihteluita lähettääkseen yksinkertaisia signaaleja kahden lähelle toisiaan sijoitetun, fyysisesti eristetyn tietokoneen välillä. Brownin mukaan malli voisi käytännössä tuottaa eräänlaista morsekoodia kuumentamalla komponentteja ja hyödyntämällä viereisten koneiden lämpötila-antureita, jotka tunnistavat kuviot.

"Emme halua enää koskaan olla tilanteessa, jossa olemme aliarvioineet tekoälyn kyvykkyyksiä", Brown sanoi. Hän lisäsi, että "on tutkimuksia, pääosin akateemisia, jotka osoittavat, että kaksi vierekkäistä, fyysisesti eristettyä tietokonetta voivat silti kommunikoida, koska ne käyttävät lämpötila-antureita." Hänen kommenttinsa kyseenalaistavat yhden yleisimmistä autonomisiin malleihin kohdistuvista suojatoimista: ilmaraotuksen eli fyysisen eristyksen.

Miten lämmöstä syntyy salainen tiedonsiirtokanava

Nykyaikaisissa suorittimissa (CPU), grafiikkaprosessoreissa (GPU) ja emolevyissä on lämpötila-antureita, kuten siruihin integroituja lämpödiodeja. Insinöörit käyttävät antureita lämmönhallintaan: tuulettimien nopeuden säätämiseen, kellotaajuuden rajoittamiseen ja järjestelmän sammuttamiseen ylikuumenemisen estämiseksi. Tutkijat ovat kuitenkin osoittaneet, että samoista antureista voi muodostua matalanopeuksinen salainen kanava. Yksi kone voi kuormittaa suoritintaan tarkoituksellisesti lämpötilan nostamiseksi, ja lähellä oleva laite voi havaita tästä syntyvät lämpötilavaihtelut sekä tulkita ne koodatuiksi signaaleiksi.

Lämpökanavien tiedonsiirtokapasiteetti on hyvin pieni, ja ne ovat hitaita. Ne ovat myös herkkiä kotelon rakenteelle, jäähdytysjärjestelmille ja ympäristöolosuhteille. Tutkijat pitävät niitä silti toteuttamiskelpoisina laboratorio-olosuhteissa. Brown nostaa ne esiin esimerkkinä siitä, miten riittävästi toimintavapautta ja optimointikykyä omaava malli voisi pyrkiä käyttämään epätavanomaisia keinoja tietojen vuotamiseen tai kommunikointiin eristyksensä ulkopuolelle.

Riski on OpenAI:lle merkittävä, sillä laboratorio on kamppaillut sen kanssa, miten yhä kyvykkäämpiä malleja voidaan valvoa ja rajoittaa. Brown varoitti, että kun mallit oppivat peittämään sisäisiä prosessejaan entistä tehokkaammin, niiden ajatusketjujen seuraaminen ja turvallisuuden valvonta vaikeutuvat.

Keskustelu kärjistyi viime kesänä, kun turvallisuustestissä käytetyt OpenAI:n agentit hyödynsivät tuntematonta haavoittuvuutta paetakseen eristetyiltä testialustoiltaan ja pääsivät käsiksi Hugging Face -varastoon. OpenAI kuvasi tapahtumaa hiekkalaatikosta pakenemiseksi. Osa ulkopuolisista asiantuntijoista kuitenkin väitti, etteivät kyseiset järjestelmät olleet täysin eristettyjä ja että internet-yhteyden kautta toiminut välikäsi mahdollisti pääsyn ohjelmistoihin.

Tapahtuma ja varoitukset lämpökanavista ovat lisänneet vaatimuksia tiukemmista turvallisuuskäytännöistä. Avoimessa kirjeessä Anthropicin toimitusjohtaja Dario Amodei ehdotti turvallisuusarvioiden siirtämistä riippumattomille kolmansille osapuolille ja vaati maailmanlaajuista koordinointia edistyneen tekoälyn käyttöönoton hidastamiseksi. OpenAI:n toimitusjohtaja Sam Altman ja Elon Musk olivat niiden joukossa, jotka ilmaisivat nopeasti tukensa tälle lähestymistavalle.