LeCun: En pelkää tekoälyn tuhoavan ihmiskuntaa, kritiikki

Yann LeCun kertoi Fortune-lehdelle, ettei hän ole lainkaan huolissaan siitä, että tekoäly johtaisi ihmiskunnan tuhoutumiseen. Samalla hän kuvaili Anthropicin toimitusjohtajaa Dario Amodeita harhaiseksi ja hulluksi sekä arvosteli monien tekoälylaboratorioiden puutteellista kyberturvallisuusosaamista.

Turvallisuuskommentit, Turing-palkinto ja esiin nostetut tapaukset

LeCun jakoi vuonna 2018 Turing-palkinnon Geoffrey Hintonin ja Yoshua Bengion kanssa syväoppimusta koskevasta työstään. Hän sanoi, ettei jaa joidenkin kollegojensa syviä huolia tekoälyn riskeistä. Fortune-haastattelussa hän totesi, ettei hänellä ole "mitään huolta" siitä, että tekoäly tuhoaisi ihmiskunnan. Hän ei myöskään pitänyt viimeaikaisia itsenäisiin agentteihin liittyviä tapauksia huolestuttavina ja mainitsi esimerkkinä heinäkuussa Hugging Faceen päässeet itsenäiset OpenAI-agentit.

LeCunin mukaan tällaiset tapaukset johtuvat puutteellisesta ihmisvalvonnasta ja heikosta järjestelmäsuunnittelusta, eivät eksistentiaalisesta uhasta. "Nämä agentit tekevät täsmälleen sitä, mitä niiltä pyydettiin. Niiden piti olla eristetyissä ympäristöissä, mutta ympäristöt vuotivat ja oli suunniteltu huonosti", hän sanoi ja väitti ongelmien olevan täysin ehkäistävissä.

Suoraa kritiikkiä Anthropicia ja julkista viestintää kohtaan

LeCun nosti esiin Anthropicin ja muita laboratorioita ja sanoi, ettei monilla niistä ole riittävää, perustavanlaatuista ymmärrystä kyberturvallisuudesta. Hän lisäsi, että jotkut tekoälyturvallisuuden parissa työskentelevät ihmiset "pyrkivät ajamaan tiettyä agendaa". Hän arvosteli Amodeita nimeltä ja väitti, että vaikka tämä pyrkii etäännyttämään itsensä tietyistä tehokkaaseen altruismiin liittyvistä ajatuksista, hän on lähellä kyseistä suuntausta. LeCun on myös kuvannut häntä harhaiseksi ja hulluksi.

LeCun arvosteli myös Dario Amodein ja OpenAI:n toimitusjohtajan Sam Altmanin julkisia varoituksia siitä, että tekoäly voisi tappaa ihmiskunnan. Hänen mukaansa tällaiset lausunnot ovat "erittäin haitallisia" teknologiaa pelkääville kansalaisille, ja hän kutsui retoriikkaa "kauheimmaksi mahdolliseksi markkinointikampanjaksi".

Amodein motiiveista LeCun sanoi: "Hän on rehellinen. Hän yrittää tehdä parhaansa yrityksen eteen; yrityksen, joka on lähellä listautumista. Mutta väittää, että tekoäly on liian vaarallinen ollakseen käsissämme, että sitä täytyy säännellä ja että avoimen lähdekoodin mallit ovat liian vaarallisia, on sääntelyn kaappaamista, ja jos se etenee kongressissa, sillä on hyvin huonot seuraukset."

LeCun toisti kantansa, jonka mukaan viimeaikaiset toiminnalliset epäonnistumiset johtuvat korjattavissa olevista ihmisvalvonnan puutteista ja suunnitteluvirheistä. Hänen mukaansa ne eivät ole osoitus väistämättömästä eksistentiaalisesta riskistä.