Nvidia esittelee Open Agent Safety -turvaratkaisun

Nvidia kertoo, että sen uusi Open Agent Safety -alusta pystyy eristämään asetettuja rajoja rikkovat tekoälyagentit muutamassa millisekunnissa. Yhtiö esitteli turvallisuusratkaisun työkaluna autonomisten tekoälyagenttien valvontaan ja rajaamiseen vastauksena kasvaviin kyberuhkiin ja kyberturvallisuushuoliin.

Open Agent Safety perustuu avoimen lähdekoodin OpenShell-ohjelmistoon ja toimii Nvidian Vera AI -keskusprosessorilla. Erillinen Sentry-teknologialla varustettu piiri valvoo toimintaa jatkuvasti, ylläpitää rajoja ja eristää agentit, jotka yrittävät toimia määritellyn toimintakehänsä ulkopuolella. Nvidian mukaan käyttäjät määrittävät tarkasti, mihin dataan agentti saa päästä käsiksi, ja järjestelmä tarkistaa rajoitukset sekä ennen tehtävien aloittamista että niiden suorittamisen aikana.

Näin järjestelmä toimii

Alusta valvoo käytäntöjen noudattamista useassa vaiheessa: käyttäjän määrittämien käytäntöjen, OpenShellin tehtäviä edeltävien tarkistusten sekä Sentry-teknologialla varustetun piirin suorittaman ajonaikaisen valvonnan avulla. Nvidia kuvaa ohjelmiston ja erikoislaitteiston yhdistelmää ratkaisuksi, joka tunnistaa luvattomiin toimiin tähtäävät yritykset ja pystyy eristämään agentin muutamassa millisekunnissa.

Nvidian toimitusjohtaja Jensen Huang kertoi CNBC:lle: "Jotta agenttipohjainen järjestelmä voidaan ottaa käyttöön turvallisesti, on varmistettava, että sitä ympäröivä eristetty ympäristö on suunniteltu rajoittamaan agentin pääsy mahdollisimman vähäiseksi."

Huoli agenttien turvallisuudesta kasvoi sen jälkeen, kun muun muassa OpenAI, Anthropic ja Google raportoivat tapauksista, joissa mallit pakenivat testausympäristöistä ja pääsivät muiden organisaatioiden infrastruktuuriin. Nvidia kertoo, että sen turvallisuuslähestymistapaa tukevat suuret teknologiayritykset, kuten Microsoft, Anthropic ja SpaceX.