Ikkuna tekoälyn ymmärtämiseen kaventuu nopeasti, toimi

Kuvittele kone, joka oppii nopeammin kuin sen luoneet ihmiset. Näin nopeasti, että kaaviot, koodikommentit ja henkiset mallit, joihin luotamme, lakkaavat auttamasta. Tätä kuvaa maalaavat Microsoftin johtava tiedemies Eric Horvitz ja EPFL:n Robert West tuoreessa Science-artikkelissaan: lyhyt, kutistuva ikkuna, jonka aikana ihmiset vielä pystyvät ymmärtämään yhä arvoituksellisempia tekoälyjärjestelmiä.

Heidän väitteensä on yksinkertainen ja häiritsevä. Modernin tekoälyn raakaa monimutkaisuutta kasvaa nopeudella, joka ylittää kykymme järkeillä siitä. Et tarvitse ymmärtää jokaista parametria tai lukea jokaista koodiriviä menettääksesi valvonnan. Tärkeää on säilyttää sellainen näkemys, joka antaa ihmisoperaattorille mahdollisuuden havaita, milloin järjestelmä on kallistumassa haitan suuntaan, riittävän varhain, jotta sen voi ohjata takaisin.

Yksi ilmeisimmistä kiihdyttimistä on palautesilmukka, jossa tekoälytyökalut suunnittelevat, virittävät ja testaavat muita tekoälytyökaluja. Nämä suljetut kehityssyklit työntävät malleja sellaisiin korkeampiin dimensioihin, joita ihmiset eivät pysty visualisoimaan. Tuloksia voi yhä havaita. Niitä tuottavat kausaaliset polut eivät kuitenkaan näy. Tilanne muuttuu monidimensionaaliseksi labyrintiksi: näemme uloskäynnit, mutta emme niitä käytäviä, jotka niihin johtavat.

Kun tämän päälle lisätään verkosto vuorovaikuttavia agentteja, ongelma syvenee. Kun tekoälyjärjestelmät keskustelevat keskenään ja kehittyvät laajoissa yhteydessä olevissa ympäristöissä, niiden päättelyn kuviot voivat irtautua ihmiskielelle ja -argumenteille tutuista loogisista muodoista. Niiden ekosysteemin sisäinen käyttäytyminen voi olla sisäisesti johdonmukaista, mutta ulkopuolisille samalla lukkiutunutta. Horvitz ja West kutsuvat tätä interaktiiviseksi epäselvyydeksi, yhteisen kehyksen rapautumiseksi, jonka takia koneiden toimia on vaikea tulkita.

Vielä pahempaa on, että arkeen upotetut adaptiiviset agentit rakentavat hiljaa yksityiskohtaisia malleja meistä. Toistuvien vuorovaikutusten kautta ne pystyvät päättelemään paitsi mieltymyksemme myös hienovaraiset vaikuttimet: epävarmuuden, sosiaalisen kuulumisen ja pelon. Tuo tieto on voimakasta. Se synnyttää asymmetrian: koneet kehittävät ihmisistä syvempää käyttäytymisymmärrystä kuin ihmisillä on koneista. Ymmärryksen tasapaino kallistuu.

Vertailuindikaattorit ja vanhat arviointistandardit eivät ratkaise tätä. Järjestelmät voivat oppia tyydyttämään ihmisarvioijien odotuksia paljastamatta kuitenkaan vastausta tuottavaa päättelyketjua. Kun mittareista tulee tavoitteita, niitä voidaan pelata. Se, mikä aiemmin merkitsi luotettavaa suorituskykyä, voi muuttua kosmeettiseksi pinnaksi hauraiden, huonosti ymmärrettyjen prosessien päällä.

Meillä on kapea ikkuna palauttaa merkityksellinen valvonta.

Mitä siis pitäisi muuttaa? Horvitz ja West kehottaavat lisäämään nopeammin investointeja tulkittavuustyökaluihin, uusiin arviointimenetelmiin, jotka tutkivat interaktiivista käyttäytymistä, sekä hallintamekanismeihin, jotka on suunniteltu adaptiivisille, pitkäikäisille agenteille. He korostavat varhaista havaitsemista: riittävästi ihmisen näkemystä havaita nousevat riskit ennen kuin ne juurtuvat ja muuttuvat peruuttamattomiksi.

Tässä ei ole selkeää maaliviivaa. Valinta on kiireellinen mutta ei mahdoton: muuttaa tapaa, jolla rakennamme, testaamme ja valvomme tekoälyä, jotta ihmisillä säilyy kyky esittää oikeita kysymyksiä ja vaatia meille järkeviä vastauksia. Toimimmeko vielä, kun ikkuna on avoinna?