Kuningas Charles varoitti tekoälyn vakavista vaaroista

Kuningas Charles III varoitti torstaina suurten tekoälyyritysten johtajia, että tekoäly voi kehittyä ”synkempiin kykyihin, ehkä jopa kykyyn riistää ihmishenkiä”. Hänen mukaansa suojatoimet on otettava käyttöön ennen kuin on liian myöhäistä.

Varoitus esitettiin yksityisessä tapaamisessa, jonka kuningas järjesti alan johtohahmoille ja korkea-arvoisille brittiläisille virkamiehille. Kuningas sanoi teknologiajohtajille, että ”ihmiset, jotka loivat nämä teknologiat, varoittavat nyt enemmän kuin koskaan, että tekoäly on vaarassa kehittyä synkempiin kykyihin, ehkä jopa kykyyn riistää ihmishenkiä.” Hän lisäsi: ”Tässä suhteessa, jos saan sanoa, vaikuttaa kiireelliseltä tutkia perusteellisesti eksistentiaalisia riskejä, joita nämä teknologiat aiheuttavat joutuessaan vääriin käsiin ja kun niitä käytetään mahdollisesti katastrofaalisilla tavoilla.”

Osallistujat ja tapaamisen tausta

Osallistujien joukossa olivat muun muassa Nvidian toimitusjohtaja Jensen Huang, useita OpenAI:n ja Anthropicin johtajia, Yhdistyneen kuningaskunnan uusi tekoälyministeri Kanishka Narayan sekä maan ulkomaisen tiedustelupalvelun johtaja. Paikalla oli myös paavin tekoälyneuvoja Paolo Benanti. Tapaaminen pidettiin torstaina suljetuin ovin.

Kommentit ovat merkittäviä, sillä Britannian kuninkaallinen perhe pidättäytyy perustuslaillisista syistä perinteisesti syvällisestä poliittisesta keskustelusta. Tekoäly on kuitenkin noussut yhdeksi maailman kiistanalaisimmista kysymyksistä. Kuningas kuvasi tekoälyn nopeaa kehitystä sekä vetovoimaiseksi että syvästi huolestuttavaksi.

Turvallisuushuolia ja tuore eroaminen

Kuningkaan kommentit seurasivat Anthropicin tutkijan eroa, jonka taustalla olivat turvallisuushuolenaiheet. Verkkokirjoituksessaan tutkija totesi, että tekoälyyritykset ”kilpailevat rakentaakseen koneita, jotka ovat paljon älykkäämpiä kuin yksikään ihminen”, ja varoitti, että ”ihmiskunta ei välttämättä selviä tästä”.

Kuningas Charles päätti puheensa kehottamalla johtajia etsimään keinoja hyödyntää tekoälyn myönteisiä puolia sekä rakentamaan kansainvälistä yhteistyötä ja yhteisymmärrystä tämän tavoitteen saavuttamiseksi.