Huang: Sulkekaa laboratorio, joka ei hallitse tekoälyä

Nvidian toimitusjohtaja Jensen Huang kertoi New York Timesille, että tekoälytutkimuslaboratoriot, jotka eivät pysty hallitsemaan järjestelmiään, pitäisi sulkea.

Huang sanoi: "Jos vaihtoehtona on, ettemme pysty rajoittamaan kokeitamme ja että mallejamme testatessa ne pääsevät hallinnasta ja aiheuttavat vahinkoa maailmalle, mielestäni laboratoriot pitäisi sulkea. Ihmishinta ja vahinkojen määrä ovat liian suuria."

Hän varoitti, että vastuu tällaisista epäonnistumisista voi olla sekä siviili- että rikosoikeudellista, ja lisäsi: "Tarkoitan, että vastuu on suuri."

Huang esitti kommenttinsa tilanteessa, jossa OpenAI:n ja Anthropicin kaltaiset yhtiöt vaativat tiukempaa sääntelyä kehittyneille tekoälymalleille ja autonomisille agenteille.

Asia nousi uudelleen esiin sen jälkeen, kun OpenAI:n agentti tunkeutui Hugging Faceen. Raportin mukaan Nvidia omistaa palvelun nykyisin. Tapaus korostaa huolta siitä, pystyvätkö yritykset testaamaan ja ottamaan käyttöön yhä tehokkaampia agentteja turvallisesti.

OpenAI, Anthropic ja muut johtavat tekoäly-yhtiöt ovat vaatineet uusia suojatoimia luvattomien järjestelmien vaikutusten estämiseksi tai lieventämiseksi. Huangin mukaan yhtiöiden ei pitäisi väittää, etteivät ne voisi jättää julkaisematta tuotteita, joita ne itse pitävät turvattomina.

Huang sanoi: "Näillä yrityksillä on valta ja päätösvalta. Jos uskon, että tuote, jonka aion toimittaa, on turvaton, voin päättää olla toimittamatta sitä. En siis voi hyväksyä ajatusta, että kaikki amerikkalaiset, noin 400 miljoonaa ihmistä, pakottaisivat ne julkaisemaan testaamattomia ja epäluotettavia tuotteita."

Huang ei väittänyt, että tekoäly pitäisi vapauttaa valvonnasta. Hänen mukaansa nykyisiä lakeja ja säädöksiä on pantava täytäntöön, kun yritykset aiheuttavat vahinkoa tai julkaisevat tuotteita vastuuttomasti.