Kun tekoäly keksii kuvan: hallucinaatiot kuvamuodossa

Yksi twiitti muutti tavallisen kokeen omituiseksi pieneksi internetin mysteeriksi. X-käyttäjä kertoi käskeneensä ChatGPT:n kuvatyökalua "uudelleenrakentaa liitteenä olevan kuvan", vaikka liitettä ei ollut. Malli ei pysähtynyt. Se keksi sellaisen.

Mitä seurasi? Omituisia, ahdistavia kuvia, jotka näyttävät siltä kuin kamera olisi suunnattu kuumeiseen painajaiseen. Kasvot vääristyvät. Taustat puhkeavat mahdottomiksi tekstuureiksi. Käyttäjät pitivät niitä karmivina, joskus suoranaisina painajaisina. Lyhyet kehotteet. Villejä tuloksia.

Näkemäsi on klassinen tapaus tekoälyn hallusinaatiosta, mutta kuvamuodossa. Kun mallilta puuttuu tarvittava syöte, se voi silti tuottaa sisältöä nojaten tilastollisiin kuvioihin ja sisäisiin malleihin siitä, miltä kuvat yleensä näyttävät. Järjestelmä täyttää aukkoja sen sijaan, että se sanoisi "Minulla ei ole kyseistä tiedostoa." Lopputulos voi olla luova, tai se voi olla virheellinen tavoilla, jotka tuntuvat epätavallisilta ja häiritseviltä.

Onko kyse kuvagenerointiputken bugista vai vain erikoisesta tulkinnasta sallivasta kehotteesta? Tätä on vaikea sanoa yksiselitteisesti. Käytös voi johtua siitä, miten työkalu jäsentää ohjeita, jotka viittaavat liitteeseen, tai sisäisestä varajärjestelmästä, joka yrittää olla avulias, kun data puuttuu. Joka tapauksessa tapaus korostaa yleisempää ongelmaa: malleja, jotka priorisoivat tuotoksen tuottamisen tiedollisen pidättyvyyden sijaan.

Ihmiset ovat keskustelleet ja jakaneet esimerkkejä verkossa, vaatien selkeämpiä suojarajoja. Kehittäjät voisivat pakottaa eksplisiittiset tarkistukset puuttuville syötteille tai saada järjestelmän esittämään lisäkysymyksiä, kun vaadittua tiedostoa ei toimiteta. Pienet muutokset kehotteiden käsittelyssä estäisivät mallia keksimästä kuvia, joilla ei ole todellista perustaa.

Kun tekoäly keksii jotain, mitä sillä ei ole, virhe ei ole vain tekninen, vaan myös suunnittelullinen valinta, jonka voimme korjata.

Olipa kyse korjattavissa olevasta bugista tai muistutuksesta nykyisten generatiivisten järjestelmien rajoista, keskustelu on hyödyllinen. Kuka päättää, mitä tekoälyn sallitaan keksivän? Ja kuka korjaa sen, kun nämä keksinnöt käyvät liian lähelle digitaalista painajaista?