Miksi kielimallit eivät korvaa ihmisen luovuutta täysin

Kuvittele Albert Einstein yksin ajatuskokeen kanssa. Hän kuvittelee itsensä suljettuun hissiin, vapaassa pudotuksessa avaruudessa, ja siitä hiljaisesta mielikuvasta hän kutoo esiin yhtälöt, jotka kirjoittavat fysiikan uudelleen. Se hetki, puhdas intuitio ja aistillinen mielikuvitus, hyppy joka perustuu lähes olemattomaan dataan, on sellainen luova loikka, jota nykyiset kielimallit yrittävät jäljitellä, mutta joissa ne usein epäonnistuvat.

Miksi tekstimeri ei vastaa elettyä maailmaa

DeepMindin tutkija Tom Zahavy ilmaisi tämän suoraan äskettäisessä analyysissaan otsikolla 'kielimallit eivät pysty hyppäämään'. Hänen argumenttinsa jakaa ajattelun kolmeen muotoon: induktioon, deduktioon ja hypoteesien luomiseen. Nykyaikaiset mallit loistavat ensimmäisessä. Ne tiivistävät valtavia kuvioita ja voivat ennustaa seuraavan lauseen uskomattoman tarkasti. Kehittyneet järjestelmät käsittelevät myös deduktiota kohtuullisen hyvin; automatisoidut päättelytyökalut, mukaan lukien projektit kuten AlphaProof, osoittavat, että koneet voivat seurata loogisia ketjuja silloin kun säännöt annetaan.

Mutta hypoteesien luomisessa, eli uuden kehikon kuvitteleminen lähes ilman empiiristä lähtökohtaa, koneet kompuroivat. Miksi? Koska niiltä puuttuu ruumis maailmassa ja ne vailla aistintuoksuista intuitiota, jota ihmiset käyttävät syy-seuraussuhteiden muodostamiseen. Einsteinin alkuoletuksia ei voi johtaa pelkästään analysoimalla olemassa olevia tekstejä. Hänen oivalluksensa syntyivät ruumiillisista metaforista ja aistillisista ajatuskokeista, ei kirjallisuudesta tehtävästä tilastollisesta kuvioiden yhteenlukemisesta.

Jotkut ajattelijat, kuten Jürgen Schmidhuber, ovat aiemmin kuvanneet tieteellistä löytöä äärimmäisenä datan pakkaamisen muotona. DeepMind haastaa tämän näkemyksen. Artikkeli nostaa esiin, että mullistavat teoriat usein syntyvät tiedoiltaan niukoissa olosuhteissa, nojaten kontrafaktisiin skenaarioihin ja eläväiseen mielikuvitukselliseen synteesiin. Kielimallit, jotka on koulutettu retrospektiivisiin malleihin, harvoin keksivät täysin uusia ontologioita, jotka uudelleenkehystävät tapaa, jolla maailma ymmärretään.

Tällä on käytännön seurauksia. Nykyiset tekoälykoodaus- ja automatisoidun löydön työkalut pysyvät ennalta määriteltyjen kehysten rajoissa. Ne pystyvät optimoimaan laatikon sisällä. Ne kamppailevat sen kanssa, että laatikko piirrettäisiin uudelleen. Eikä mikään lisäämä laskentateho, suuremmat datakeskukset tai intensiivisempi koulutus automaattisesti anna sitä syy-yhteyksien intuitiota, joka tukee radikaaleja tieteellisiä läpimurtoja.

Mitä tämä sitten merkitsee tutkimukselle ja teollisuudelle? Se muuttaa odotuksia. Kielimallit ovat voimakkaita yhteistyökumppaneita kuvioita täynnä olevissa tehtävissä, luonnostelussa, hypoteesien hioissa ja permutaatioden tutkimisessa. Ne täydentävät ihmisen kipinää, joka keksii kysymykset ja käsitteelliset työkalut, eivät korvaa sitä. Toisin sanoen: erinomaisia tukirakenteiksi, eivät vielä valmiita synnyttämään vallankumouksia.

Laskennallinen mittakaava ei korvaa ruumiillista oivallusta; inhimillinen mielikuvitus tekee edelleen loikan.

Polku eteenpäin on avoin. Hybridimenetelmät, jotka yhdistävät mallin antureihin, kokeisiin ja interaktiivisiin ympäristöihin, voivat kaventaa kuilua. Mutta kunnes koneet hankkivat tilanteellista ymmärrystä ja tekstin tuolla puolen olevaa syy-yhteyksien intuitiota, vahvimmat tieteelliset ideat jäävät ihmismielen alaksi.