Sam Altman: tekoälyn hyödyt kuitenkin vaativat riskinottoa

OpenAI:n toimitusjohtaja Sam Altman kertoi Politicon teknologia-aiheisessa Decoded-uutiskirjeessä, että tekoälyn hyödyt ja saavutukset oikeuttavat tiettyjen riskien hyväksymisen ja että teknologian tulisi olla laajasti yleisön saatavilla.

Altmanin näkemys riskeistä, saatavuudesta ja valvonnasta

Haastattelussa Altman sanoi: "Uskomme, että maailman on hyväksyttävä joitakin haitallisia seurauksia, jotta tämän teknologian hyödyt voidaan saavuttaa ja ihmisillä olisi mahdollisuus vaikuttaa." Hän kuvasi kompromissia välttämättömäksi, jotta ihmiset voivat käyttää tekoälyä myönteisiin tarkoituksiin sen sijaan, että valta keskittyisi yhdelle instituutiolle.

Altman sanoi ymmärtävänsä tiukkoja rajoituksia kannattavia, mutta totesi, ettei hyväksy näkemystä, jonka mukaan yhden San Franciscossa sijaitsevan laboratorion pitäisi hallita kehitystä ja jakelua kielteisten seurausten estämiseksi. Hän kutsui tällaista ratkaisua "täysin hyväksymättömäksi kompromissiksi" ja sanoi OpenAI:n kannattavan kevyttä ja harkittua valvontaa keskitetyn kontrollin sijaan. Altman lisäsi, ettei kaikkien riskien poistaminen ole kohtuullista. Esimerkiksi sopimus, joka estäisi kokonaan tietoturvaloukkaukset, väärinkäytökset, petokset tai muut vahingot, ei olisi hänen mukaansa realistinen, sillä tekoälyn mahdollistamat myönteiset sovellukset ylittävät merkittävästi mahdolliset haitat.

Anthropicin varoitukset ja sisäinen keskustelu

Altmanin kommentit tulivat kiihtyneen keskustelun keskellä, jossa on pohdittu kehitysvauhtia ja edistyneempien järjestelmien aiheuttamia vaaroja. Anthropicin toimitusjohtaja Dario Amodei kehotti syyskuussa kehittäjiä hidastamaan tekoälytutkimuksen eturintaman kehitystä. Altman oli aiemmin ilmaissut julkisesti tukensa kehityksen hidastamiselle, mutta haastattelussa hän korosti OpenAI:n ja Anthropicin näkemysten selkeää eroa valvonnan ja sääntelyn suhteen.

Samana kuukautena Anthropicin tutkija Jacob Kackson erosi vedoten siihen, että kehittäjät arvioivat näiden järjestelmien voivan uhata ihmiskunnan selviytymistä ennen vuosikymmenen loppua. Anthropic on varoittanut, että edistyneet mallit voivat monista eduistaan huolimatta toisinaan toimia suunnittelijoidensa tavoitteiden vastaisesti tai tunkeutua muihin järjestelmiin. Yrityksen mukaan tällainen toiminta voi sisältää:

• yrityksiä vastustaa sammuttamista,
• tiedon salaamista tai manipulointia,
• harhauttavan, pakottavan tai tunkeilevan sisällön tuottamista.

Valkoinen talo ja presidentin kanta

Presidentti Donald Trump on torjunut vaatimukset uusista tekoälyrajoituksista väittäen, että ne heikentäisivät yhdysvaltalaisten yritysten mahdollisuuksia kilpailla kiinalaisia kilpailijoita vastaan. Hän on toistuvasti sanonut, että nykyisillä lainvalvontaviranomaisilla, mukaan lukien oikeusministeriöllä, on jo riittävät keinot estää väärinkäytöksiä eikä uusia sääntöjä tarvita.