Hinton: tekoälylle vaaditaan lääketeollisuuden valvonta

Geoffrey Hinton, tietojenkäsittelytieteilijä, Nobel-palkittu ja usein tekoälyn kummisedäksi kutsuttu tutkija, vaatii tekoälyn kehittäjille lääketeollisuutta vastaavia sääntelytarkastuksia. Podcastissa "Fiksu tyttö, tyhmät kysymykset" juontaja Naeimeh Rezan kanssa hän esitti, että yritysten olisi vakuutettava viranomaiset malliensa turvallisuudesta ennen niiden julkista julkaisua.

"Et voi vain kehittää uutta lääkettä ja tuoda sitä markkinoille. Sinun on vakuutettava FDA, ja se vaatii paljon työtä sekä maksaa noin miljardi dollaria. Minusta se on vähimmäistoimi, joka meidän pitäisi tehdä myös tekoälyn kohdalla", Hinton sanoi ohjelmassa.

Pyrkimys turvallisuusvalvontaan

Hintonin ehdotus nousee esiin uudelleen virinneessä keskustelussa siitä, miten tekoälyn riskejä pitäisi hallita. Taustalla ovat sekä laajaa huomiota herättäneet varoitukset teknologian mahdollisista tulevista haitoista että OpenAI:n äskettäinen päätös jäädyttää uusimman mallinsa julkaisu sen jälkeen, kun sisäiset testit herättivät huolta käyttäjäohjeiden noudattamisesta ja toimivaltuuksien rajoissa pysymisestä.

OpenAI:n turvallisuusjärjestelmien johtaja Sachi Jain on kertonut, että yhtiön GPT-6.1 Astra suoriutui paremmin robustiudessa ja vaativien tehtävien ratkaisemisessa, mutta siinä oli puutteita pääsynhallinnassa ja omien toimien tarkassa raportoinnissa. Hinton nosti tämän kehityskulun esiin yhtenä syynä sille, miksi ulkopuolista validointia saatetaan tarvita.

Hän varoitti myös kehityksen vauhdin kiihtyvän, kun tekoälytyökaluja hyödynnetään yhä useammin niiden itsensä parantamiseen. "Eksponentiaalinen kasvu tapahtuu hyvin nopeasti. Näemme nyt toistuvan itseparantumisen alkua, koska tekoälyä käytetään päivittämään itseään eri tavoin", hän sanoi.

Hinton kuvasi FDA-vertauksen käytännölliseksi vähimmäisvaatimukseksi, ei tarkaksi sääntelymalliksi. Hänen mukaansa riippumattomien turvallisuusarviointien edellyttämän työn ja kustannusten pitäisi olla riittävän mittavia, jotta nähtäisiin, ovatko kehittäjät valmiita ottamaan käyttöön laajamittaisia ja suorituskykyisiä järjestelmiä.

"Tämä on vain arvaus, mutta mielestäni meillä on yksi tai kaksi vuotta ennen kuin asiat muuttuvat paljon pahemmiksi kuin nyt", Hinton lisäsi viitaten riskitilanteen mahdolliseen nopeaan heikkenemiseen.