Sam Altman varoittaa kahdesta tekoälyn katastrofiskuvasta

OpenAI:n toimitusjohtaja Sam Altman kertoi Raj Shamanin Figuring Out -podcastissa, että kehittynyt tekoäly voi johtaa kahteen jyrkästi erilaiseen mutta yhtä vaaralliseen lopputulokseen: joko ihmiskunta luovuttaa vallan järjestelmille, jotka ovat ihmisiä huomattavasti kyvykkäämpiä, tai yksi henkilö, yritys tai valtio keskittää itselleen kohtuuttomasti valtaa.

Altman liitti varoituksensa pitkäaikaiseen näkemykseensä tekoälyn hyödyistä ja vastustukseensa apokalyptisiä skenaarioita kohtaan. Hän kuvasi kaksi vaihtoehtoa yksinkertaisesti: "Ensimmäinen on se, että valta luovutetaan tekoälylle; tarkoituksellisesti tai vahingossa annamme tulevaisuuden ohjat järjestelmille, jotka ovat uskomattoman paljon kykenevämpiä kuin me, emmekä voi enää ottaa sitä takaisin. Toinen skenaario on se, että yksi henkilö, yksi yritys tai yksi valtio tulee liian voimakkaaksi verrattuna muihin."

Kaksi katastrofaalista skenaariota

Ensimmäinen skenaario poikkeaa elokuvamaisesta kuvasta robottien kapinasta. Kyse on hiljaisesta, asteittaisesta päätösvallan ja auktoriteetin luovuttamisesta, kunnes ihmisten toimijuutta ei enää voida palauttaa. Toinen on moderni scifi-huoli vallan keskittymisestä: yksi toimija pitää voimakasta teknologiaa tiukasti hallussaan ja käyttää sitä muiden tahdon määräilemiseen.

Nämä mahdollisuudet eivät ole tutkijoille ja päättäjille uusia, mutta Altmanin varoituksilla on hänen OpenAI-roolinsa vuoksi erityistä painoarvoa. Hän tunnusti yrityksen vaikutusvallan sanoen: "Uskon, että meillä on eniten käyttäjiä ja paras teknologiapaketti piirilevyistä konesaleihin ja malleihin sekä muihin osiin, infrastruktuuri, joka tuo paljon älykkyyttä ihmisten käsiin. Meillä on paras brändi ja arvot, joita tämän teknologian käyttäjät etsivät; siitä huolimatta haluamme, että muut menestyvät, ja luulen, että ihmiset tuntevat niin."

Päätöksenteko ja auktoriteetin delegointi

Huoli hallitsemattomasta tekoälystä on terävöitynyt, kun järjestelmät ovat siirtyneet pelkkien vastausten antamisesta päätöksentekoon. Mallit ja agentit voivat nyt toimia verkossa ja suorittaa monimutkaisia tehtäviä vähäisellä ihmisvalvonnalla. Kun niille siirretään yhä enemmän vastuuta, kasvavat myös seuraukset siitä, jos niiden tavoitteet erkanevat ihmisten tarkoitusperistä.

On tärkeää muistaa, että nykyiset tekoälyjärjestelmät toimivat todennäköisyyksiä ennustamalla. Ne ovat tehokkaita ja koulutettu valtavilla aineistoilla, mutta niiltä puuttuvat inhimillinen harkinta ja ymmärrys. Niillä ei tarvitse olla pahantahtoisia motiiveja aiheuttaakseen haittaa. Simuloiduissa hallintotilanteissa mallit ovat esimerkiksi toisinaan päätyneet tuhoisiin ratkaisuihin, myös ehdotuksiin, jotka liittyisivät ydinaseiden käyttöön.

Vaikka Altman korostaa näitä rajoituksia ja riskejä, hän säilyttää pitkän aikavälin optimisminsa. "En tiedä, millainen tulevaisuus on, mutta olen rauhallinen sen suhteen ja minulla on syvä luottamus ihmisten kykyyn sopeutua, edetä ja parantaa yhteiskuntaa meille kaikille; uskon, että maailma tulee ajan myötä todennäköisesti paremmaksi", hän sanoi.

Altman suhtautuu innostuneesti myös tekoälyn hyödyntämiseen tieteellisten löytöjen vauhdittamisessa. Hän kuvasi konetta, joka syventää ymmärrystämme maailmasta ja tuottaa merkittäviä oivalluksia fysiikassa, uusia lääketieteellisiä hoitoja ja uusia energialähteitä – tuloksia, joita on nyt vaikea kuvitella mutta jotka voivat olla mahdollisia paremman tieteellisen ymmärryksen myötä. "Olen äärimmäisen innoissani nähdessäni, kuinka pitkälle voimme viedä tekoälyä edistämään uusia tiedealoja", hän sanoi.

Altmanin kommentit seuraavat hänen äskettäistä ilmoitustaan siitä, että tekoäly julkaisee lisää matemaattisia tuloksia lähiviikkoina. Ne toistavat myös OpenAI:n perustajan Greg Brockmanin konferenssissa esittämiä kommentteja, joiden mukaan tekoäly saattaisi jonain päivänä tehdä kuolemasta valinnaisen lopputuloksen.