Anthropicin tutkija varoittaa tekoälyn vakavista vaaroista

27-vuotias tutkija Jacob Coxon, joka lähti hiljattain Anthropicista työskenneltyään sitä ennen OpenAI:ssa, on varoittanut, että tekoälyn nykyinen kehitysvauhti voi johtaa ihmiskunnalle tuhoisiin seurauksiin. Hänen mukaansa osa tekoälytutkijoista on aidosti peloissaan. Coxon kertoi huolistaan sosiaalisessa mediassa julkaisemassaan kirjoituksessa ja BBC:n haastattelussa.

Lähtö ja varoituksen ydin

Julkisessa kirjoituksessaan ja myöhemmässä haastattelussa Coxon sanoi: "Jos emme hidasta nykyistä kehitysvauhtia, on suuri todennäköisyys, että kuolemme kaikki lähitulevaisuudessa." Hänen mukaansa monet tekoälyyritysten työntekijät ovat huolissaan kehityksen nopeudesta ja siitä, mihin heidän rakentamansa teknologiat voivat johtaa.

Coxon, joka työskenteli OpenAI:ssa ennen siirtymistään Anthropiciin, kertoi tukevansa Anthropicin toimitusjohtajan Dario Amodein ehdotusta kehitysvauhdin hidastamisesta. Hänen mukaansa merkittävä hidastus edellyttäisi kuitenkin koordinointia myös Kiinan kanssa. Amodei julkaisi lauantaina artikkelin, jossa hän vaati tekoälyn kehityksen hidastamista.

Huoli kilpailupaineesta ja yksityiskohtaisista skenaarioista

Coxon kuvaili tekoälyyritysten välistä kovaa kilpailua työntekijöiden pelon lähteeksi. "Näissä yrityksissä työskentelevät ihmiset ovat tosissaan vaatiessaan sääntelyä, koska he kokevat olevansa kilpajuoksussa ja pelkäävät sen seurauksia", hän kertoi BBC:lle.

Hän kuvasi myös yksityiskohtaista skenaariota, jota hän pitää mahdollisena: bottiverkostoa, joka toimisi yhtenä supertietokoneena ja voisi ottaa hallintaansa internetin. Coxonin mukaan tämä voisi tapahtua kuuden kuukauden tai vuoden sisällä.

Anthropicin lausunto ja vastaukset Piilaaksosta

Anthropicin tiedottaja kertoi BBC:lle, että yhtiö on aina tehnyt selväksi, että tekoäly tuo mukanaan erittäin suuria hyötyjä mutta myös ennennäkemättömiä riskejä. Tiedottajan mukaan Anthropic jatkaa sellaisten mallien kehittämistä, joissa on alan vahvimpia turvallisuusmekanismeja.

Coxonin kommentit herättivät kritiikkiä Piilaaksossa. Hugging Facen toimitusjohtaja Clement Delangue kirjoitti X:ssä: "Anteeksi, mutta kysyä Jacobilta ihmiskunnan sukupuuton riskistä on kuin kysyä ilmastonmuutoksesta ilmastointilaitteen korjaajalta." Myöhemmin Delangue sanoi olevansa valmis keskustelemaan Amodein ehdottamista toimista.

Useiden BBC:lle puhuneiden henkilöiden mukaan Nvidian toimitusjohtaja Jensen Huang sanoi viime viikolla Goldman Sachsin konferenssissa, että Coxonin väitteet olivat virheellisiä.