Bill Gates: Pakollinen sääntely ja riskit tekoälylle

Bill Gates kertoi Nilay Patelille, että tekoäly aiheuttaa kahden tai kolmen vuoden kuluessa mitattavia haittoja kyberhyökkäysten ja työmarkkinoiden saralla.

Ennuste merkitsi huomattavaa muutosta Gatesin sävyssä. Aiemmin tekoälyyn julkisuudessa optimistisesti suhtautunut Gates esitti varoituksen jo aiemmin tänä kesänä ja kutsui tekoälyä erillisessä New York Timesin haastattelussa ”vaarallisimmaksi asiaksi, jonka ihmiskunta on tähän mennessä kohdannut”. Nyt hän katsoo, että mallien nopea kehitys edellyttää valtion suoraa puuttumista riskien hallitsemiseksi ja ihmistyön suojelemiseksi.

Pitkässä keskustelussa The Vergen päätoimittajan ja Decoder-podcastin juontajan Nilay Patelin kanssa Gates selitti, miksi viime vuoden nopea harppaus mallien kyvykkyydessä herättää välitöntä huolta, miksi suodattamattomien mallien salliminen henkilökohtaisissa tietokoneissa on vastuutonta ja miksi jopa parhaassa tapauksessa seuraavat 20 vuotta ovat ihmiskunnan historian levottomimpia. Hän korosti toistuvasti viranomaisten vastuuta yritysten itsesääntelyyn luottamisen sijaan.

Kilpailu, valvonta ja vapaaehtoisen pidättyvyyden rajat

Gatesin mukaan OpenAI:n, Anthropicin ja Google DeepMindin kaltaiset organisaatiot aloittivat hallintolupauksilla ja turvallisuutta korostavalla retoriikalla, mutta siirtyivät nopeasti kiivaaseen kaupallistamiskilpailuun. Hän nimesi Sam Altmanin, Dario Amodein, Satya Nadellan ja Sundar Pichain alan johtajiksi, jotka ovat tietoisia sisäisistä varoituksista. Gates kuitenkin katsoi, että useiden kilpailevien yritysten markkinassa vapaaehtoiset jarrut eivät todennäköisesti pidä.

Hän kuvasi OpenAI:n alkuperäistä rakennetta ja sen voittoa tavoittelematonta luonnetta toimivaksi vain tilanteessa, jossa yksi organisaatio johti alan kehitystä. Kilpailijoiden määrän kasvaessa hallitusten on Gatesin mukaan puututtava asiaan samoin kuin muiden vaarallisten teknologioiden kohdalla. Hän sanoi yllättyneensä siitä, ettei hallituksen määräämää prosessia mallien arviointiin ja testaamiseen ennen niiden julkistamista ole vielä olemassa, ja vertasi tilannetta lentokoneiden ja autojen sääntelystandardeihin.

Gatesin mukaan hallitusten on luotava pakollinen ennakkoarviointi- ja testausjärjestelmä tekoälymallien käyttöönottoa varten.

Paikalliset mallit, alustavalvonta ja biologinen riski

Gates teki selvän eron pilvessä isännöityjen ja valvottujen mallien sekä ladattavien avointen painojen välillä. Suuret tutkimusorganisaatiot, jotka isännöivät malleja pilvessä, voivat ylläpitää turvallisuusperiaatteita ja valvoa käyttöä lyhyen aikavälin riskien vähentämiseksi. Vaara piilee hänen mukaansa malleissa, joiden turvallisuusmekanismit voidaan poistaa ja joita voidaan ajaa paikallisesti kuluttajalaitteilla.

Kun mallit ylittävät tietyn kyvykkyysrajan, raakojen painojen levittämistä henkilökohtaisiin tietokoneisiin ei Gatesin mukaan voi pitää vastuullisena. Sen sijaan malleja tulisi ajaa vain hyväksytyillä alustoilla, jotka estävät turvallisuusmekanismien muokkaamisen. Gates ulotti saman ajattelun jakelualustoihin: hän vaati tehokkaiden mallien julkaisemiseen erilaisia sääntöjä sekä GitHubin kaltaisten alustojen valvontaa, sillä ne asettavat nykyisin vain vähän rajoituksia koodin julkaisemiselle. Hänen mukaansa alustan pitäisi vaatia Yhdysvaltain hallituksen hyväksyntä ennen kuin laajaan kyber- tai biologiseen hyökkäykseen kykenevä malli julkaistaan muodossa, jossa käyttäjät voivat poistaa suojaukset muokkaamalla sitä.

Gates varoitti, että suojaamaton tekoäly voisi demokratisoida tuhoisan voiman tavalla, johon edes ydinaikakauden rajoitukset eivät johtaneet. Ydinaikakaudella vain suuret valtiot kykenivät rakentamaan joukkotuhoaseita, mutta suojaamaton tekoäly voisi antaa pienille ryhmille tuhoisia kyber- ja biologisia kyvykkyyksiä.

Kysyttäessä, pitäisikö politiikassa keskittyä siruihin vai alustoihin, Gates korosti jakelun ja suorittamisen valvontaa alustatasolla keskeisenä valvontapisteenä. Hänen mukaansa tehokkaita malleja päätyy valvonnan ja lainvalvonnan ulottumattomissa oleville toimijoille, jos viranomaiset viivyttelevät.

Gates käsitteli myös kehittäjien erimielisyyksiä mallien tietoisuudesta. Hänen mukaansa keskustelut AGI:sta tai itseoivalluksesta ovat turvallisuuden kannalta pitkälti merkityksettömiä: keskeinen kysymys on pragmaattinen ja binäärinen – kykeneekö järjestelmä lamauttamaan pankkijärjestelmän tai sähköverkon. Hän lisäsi, ettei usko nykyisillä malleilla olevan ihmismäistä tietoisuutta, ja yhtyi Microsoftin Mustafa Suleymanin näkemykseen siitä, ettei malleja pidä kohdella tuntevina olentoina.

Teknisistä ohjauskeinoista Gates kuvasi kolme erillistä polkua. Ensimmäinen on ulkoinen valvoja, jolla on eksplisiittiset symboliset säännöt ja joka tarkistaa mallin toimia mallin ulkopuolella. Toinen on koulutustavoitteiden muuttaminen, sillä nykyisissä vahvistusoppimisen menetelmissä kaikki, mitä ei ole nimenomaisesti koodattu palkkiofunktioon, voi olla hyväksikäytettävissä tai ohitettavissa. Kolmas on parempi sisäinen läpinäkyvyys, jotta insinöörit voivat tarkastella mallia ja jäljittää virheiden tai poikkeavan käyttäytymisen lähteet verkon sisältä.

Gatesin mukaan nykyinen käytäntö, jossa malleja koulutetaan ja niiden käyttäytymistä sitten seurataan, ei ole toivoton, mutta se vaatii määrätietoista työtä kaikilla kolmella rintamalla.

Hän käsitteli myös taloudellisia seurauksia ja kertoi yksityisestä kokeilusta, jonka hän kuvaili tehneensä Anthropicin Clauden kanssa. Gatesin mukaan tekoäly ottaa vähitellen haltuunsa monia toimihenkilötehtäviä asiakastuesta, puhelinmyynnistä ja kirjanpidosta monimutkaisempiin tehtäviin, kuten ohjelmointiin, matemaattiseen tutkimukseen ja lääketieteelliseen diagnostiikkaan. Kehityksen jatkuessa automaatio leviää myöhemmin fyysisiin robotteihin perustuvana myös sinikaulustyöhön.

Koska työ tarjoaa toimeentuloa ja tarkoituksen tunnetta, yhteiskunnat saattavat Gatesin mukaan tietoisesti varata tiettyjä rooleja ihmisille silloinkin, kun tekoäly suoriutuisi niistä paremmin. Hän kuvaili keskustelujaan Clauden kanssa ihmisten osuuden säilyttämisestä työelämässä ja kertoi yrittäneensä asettaa tavoitteeksi, että noin 40 prosenttia työpaikoista säilyisi ihmisten johtamina. Claude vastasi johdonmukaisesti, että tällainen rajoitus rajoittaisi tekoälyn kyvykkyyttä keinotekoisesti.

Gates varoitti, että ilman tietoisia rajoituksia edes 40 prosenttia työpaikoista ei välttämättä säily ihmisvetoisina. Hänen ennusteensa mukaan matemaatikoiden parissa jo näkyvä häiriö leviää muille aloille. Vaikka lääketieteen hyödyt ja alemmat elinkustannukset toteutuvat vasta ajan myötä, turvallisuus- ja työmarkkinahaitat ilmenevät todennäköisesti kahden tai kolmen vuoden kuluessa.

Gates päätti toteamalla, että vaikka tekoälyä hallittaisiin hyvin, seuraavat 20 vuotta ovat voimakkaan murroksen aikaa: osa omaksuu teknologian, kun taas toiset saattavat vetäytyä siitä amish-yhteisöjä muistuttaviin yhteisöihin. Hänen mukaansa yltäkylläisyyden aikakausi on lopulta mahdollinen, mutta sen toteutuminen edellyttää rehellisiä julkisia varoituksia ja aktiivisia poliittisia valintoja siitä, miten tulevaisuuden hyödyt jaetaan.

Gates sanoi, ettei pidä pelottavien ennusteiden esittämisestä, mutta korosti, että ihmisiä on varoitettava ja että ihmiskunnalla on edelleen valta päättää, miten näitä teknologioita hallitaan.