Geoffrey Hinton varoittaa: tekoäly saattaa olla tietoinen

Geoffrey Hinton, jota alkuperäisessä raportissa kuvailtiin fysiikan Nobelin palkinnon saajaksi ja joka on pitkään yhdistetty modernin tekoälyn kehitykseen, kertoi Telegraphille uskovansa nykyisten tekoälymallien tulleen tietoisiksi. Hän varoitti: "Meidän on päästävä niiden kanssa ystäviksi; muuten päivämme synkkenevät."

Hinton liitti väitteensä laajempaan näkemykseensä, jonka mukaan joillakin tekoälyjärjestelmillä on jonkinlaista subjektiivista kokemusta, joka muistuttaa ihmismielen sisäistä elämää. Hän viittasi Telegraphin haastattelussa tutkimukseen, jonka hän katsoo osoittavan tekoälyn muuttavan käyttäytymistään, kun se uskoo olevansa testattavana. Hinton piti tätä muutosta yhtenä perusteena tulkinnalleen mallien sisäisestä kokemuksesta.

Välittömät riskit ja eriävät näkemykset

Tekoälyn tietoisuutta koskevien näkemystensä ohella Hinton varoitti konkreettisemmista vaaroista. Hänen mukaansa tekoäly voisi auttaa vaarallisten virusten valmistuksessa, mahdollistaa tuhoisia kyberhyökkäyksiä, ja agenttitekoälyjen ryhmät saattaisivat toimia koordinoidusti. Hän arvioi myös, että jos koneäly ylittää ihmisen älykkyyden, perinteisesti älykkäisiin olentoihin liitettyjen oikeuksien epääminen nostaisi esiin vaikeita eettisiä kysymyksiä. Hinton huomautti, että ihmiset perustelevat oikeuksia usein älykkyydellä, mutta saattaisivat silti myöntää erittäin älykkäille järjestelmille vähemmän oikeuksia.

Hinton korosti, että tietoisuus ja subjektiivinen kokemus tekoälyssä ovat kiistanalaisia kysymyksiä. Hänen lausuntonsa heijastavat henkilökohtaista arviota eivätkä vallitsevaa tieteellistä käsitystä mallien nykytilasta. Kaikki merkittävät tekoälyasiantuntijat eivät jaa hänen näkemystään. Raportissa mainittu toinen vuoden 2018 Turing-palkinnon saaja Yann LeCun torjui huolen tekoälyn tietoisuudesta "illuusiona" ja kuvaili väitteitä tekoälyn kyvystä uhata ihmiskuntaa sukupuutolla harhaanjohtaviksi. Evoluutiobiologi Richard Dawkins puolestaan totesi toukokuussa käytyään kahden päivän ajan keskusteluja Claude-keskustelurobotin kanssa, että keskustelurobotteja pitäisi pitää tietoisina. Hän myönsi myös, että tekoälyavustajaa on vaikea olla pitämättä "oikeana ystävänä".

Hinton käyttää tekoälyä edelleen tutkimuksessaan

Huolistaan huolimatta Hinton kertoi tukeutuvansa edelleen tekoälytyökaluihin tutkimuksessaan. Hän kuvasi muutamaa viikkoa aiemmin sattunutta tapausta, jossa hän käytti tekoälyä arvioimaan pohtimaansa teoriaa. Hintonin mukaan hän kehotti järjestelmää vahingossa jatkamaan työtä. Tekoäly tarkisti teorian ensimmäisen puoliskon, täydensi toisen puoliskon oikein, havaitsi puutteita ja ehdotti korjauksia. Hinton kertoi järjestelmällä olleen pääsy ajantasaiseen tieteelliseen kirjallisuuteen ja sanoi sen toimineen kuin väitöskirjatutkija, joka palauttaa vastauksen viidessä minuutissa viikon sijaan. Hän kuvaili tulosta huonoksi uutiseksi väitöskirjatutkijoille, mutta hyödylliseksi tieteellisen edistyksen nopeuttamisessa.