Paavi vaatii tekoälyn aseettomuutta ja ihmisen valvontaa

Paavi Leo XIV on vaatinut tekoälyjärjestelmien ”aseettomuutta” ja kehottanut hallituksia pidättäytymään siirtämästä koneille päätöksiä, jotka koskevat ihmishenkeä, vapautta tai voimankäyttöä. Hän kuvasi vetoomusta oikeudelliseksi ja turvallisuuspoliittiseksi kysymykseksi, joka nousee esiin Genevessä ensi kuussa järjestettävässä kokouksessa.

Vaatimus konkreettisista toimista Genevessä

Perjantaisessa puheessaan paavi kehotti Yhdistyneiden kansakuntien jäsenvaltioita ryhtymään ”konkreettisiin toimiin tappavien autonomisten aseiden kieltämiseksi”. Hänen mukaansa kyse ei ole vain eettisestä varoituksesta, vaan suoraan oikeudellisesta ja turvallisuuspoliittisesta keskustelusta, jota käydään Genevessä ensi kuussa.

Ihmisen valvonta ja oikeudellinen vastuu

Leo XIV sanoi, että ihmisillä on ”vastuu ohjata, muokata ja tarvittaessa hylätä tekoälysovelluksia”. Hän täsmensi, ettei ”aseettomuus” tässä yhteydessä tarkoita tekoälystä luopumista kokonaan. Painopiste on sen sijaan sellaisten sovellusten rajoittamisessa, jotka voivat aiheuttaa kuolemaa tai vahinkoa ilman asianmukaista inhimillistä harkintaa.

Perusteluissaan hän vetosi oikeudelliseen rajaan työkalun ja toimijan välillä: ”Koneet ovat työkaluja, eivät henkilöitä.” Hän varoitti, että oikeuksien tai oikeushenkilöllisyyden myöntäminen tekoälyjärjestelmille voisi hämärtää inhimillistä vastuuta erityisesti silloin, kun järjestelmän päätös vaikuttaa henkilön elämään, vapauteen tai turvallisuuteen.

Päätösten, jotka koskevat elämää, vapautta tai voimankäyttöä, on aina oltava tehokkaan, tietoon perustuvan ja vastuullisen inhimillisen valvonnan alaisia.

Jatkumoa Vatikaanin linjalle

Paavin kommentit jatkavat Vatikaanin linjaa autonomisten aseiden kysymyksessä. Paavi Franciscus vaati vuonna 2024 vastaavien järjestelmien kieltämistä ja totesi, että ”yhtäkään konetta ei pitäisi koskaan sallia valitsemaan ihmishengen riistämistä”. Leo XIV vie samaa periaatetta eteenpäin korostamalla aiempaa selvemmin sääntelymekanismeja ja vastuullisuutta.

Tekoäly on ollut toistuva teema Leo XIV:n pontifikaatin alusta lähtien. Hän on yhdistänyt Leo-nimensä nykyajan teknologisiin haasteisiin viittaamalla Leo XIII:een, joka kohtasi teollisen vallankumouksen sosiaaliset ja taloudelliset muutokset. Leo XIV on verrannut tekoälyn nopeaa kehitystä vastaavaan murrokseen, joka edellyttää eettistä ja institutionaalista vastausta.

• Kehotti YK:n jäsenvaltioita kieltämään tappavat autonomiset aseet Geneven kokouksessa ensi kuussa
• Vaati ihmisen valvontaa ja oikeudellista vastuuta tekoälypäätöksissä, jotka vaikuttavat elämään, vapauteen ja voimankäyttöön
• Kuvasi asian sekä eettiseksi kysymykseksi että kansainväliseen turvallisuuteen ja oikeuteen liittyväksi kysymykseksi

Paavi sijoitti vaatimuksensa jatkumoksi aiemmalle asiakirjalleen ihmiskunnian suojelemisesta tekoälyn aikakaudella. Samalla hän laajensi eettisen viitekehyksen koskemaan asepolitiikkaa, oikeudellista vastuuta ja kansainvälistä valvontaa.