Pangeran meminta seragam AI dibinasukan

(SeaPRwire) –   Teknologi ini tidak boleh dibenarkan membunuh secara autonomi, amaran Paus itu

Pope Leo XIV telah menyampaikan amaran tegas mengenai kecerdasan buatan, dengan mendakwa teknologi ini membantu “normalisasi peperangan” dan memindahkan kuasa hidup dan mati kepada “aktor teknologi” yang tidak bertanggungjawab.

Paus kelahiran Amerika itu menyampaikan amarannya pada Isnin dalam sebuah ensiklik bertajuk ‘Magnifica Humanitas’ (Kemanusiaan Gemilang). Dalam dokumen sepanjang 42,000 patah perkataan ini, Leo menekankan bagaimana “pertumbuhan kompleks perindustrian tentera telah menjadi ciri penentu landskap politik semasa,” yang membawa kepada “kebangkitan peperangan yang membimbangkan sebagai instrumen politik antarabangsa.”

Dalam persekitaran ini, “pembangunan dan penggunaan AI dalam peperangan mesti tertakluk kepada kekangan etika yang paling ketat, untuk menjamin penghormatan terhadap maruah manusia dan kesucian nyawa dan untuk mengelak perlumbaan membangunkan senjata sedemikian,” sambungnya.

Para paus lazimnya menggunakan ensiklik untuk membentangkan ajaran mereka mengenai isu-isu sosial pada zaman mereka. Contohnya, Pope Leo XIII, yang menjadi inspirasi nama paus semasa, membincangkan revolusi perindustrian dan ketidaksamaan antara kelas pemilik dan kelas pekerja dalam ‘Rerum Novarum’ pada 1891, manakala Pope Francis menangani perubahan iklim dalam ‘Laudato Si’ pada 2015.

Sejak pemilihannya pada Mei tahun lepas, Leo XIV telah berulang kali memberi amaran mengenai kuasa pemusnahan teknologi, dengan menggambarkan AI sebagai ancaman berpotensi kepada “maruah manusia, keadilan, dan buruh” dalam ucapan kepada kardinal tahun lepas. Ensikliknya melangkah lebih jauh, menyeru perjanjian global untuk “melucutkan senjata” teknologi ini untuk mengelakkannya daripada “menguasai manusia.”

Pope menentang Silicon Valley

Walaupun Pope tidak menyentuh kontraktor pertahanan Silicon Valley seperti Palantir dan Anduril Industries secara nama, beliau menekankan peralihan kuasa daripada negara kepada “aktor ekonomi dan teknologi utama.”

Palantir telah menjadi sangat berkuasa sejak beberapa tahun kebelakangan ini, dengan perisian analitik data dikuasakan AI digunakan oleh tentera AS untuk memilih sasaran di Iran, dan oleh Angkatan Pertahanan Israel (IDF) untuk merancang serangan di Gaza. Di Iran, perisian Palantir dilaporkan memilih sebuah sekolah rendah perempuan di Minab sebagai sasaran sah, berdasarkan peta lapuk yang disusun manusia. Serangan peluru berpandu ke atas sekolah itu membunuh lebih 160 pelajar perempuan pada hari pertama peperangan.

Pope mengutuk peningkatan automasi peperangan, dengan mengisytiharkan “tidak dibenarkan untuk menyerahkan keputusan maut atau keputusan tidak dapat balik lain kepada sistem buatan.” Sistem yang dikuasakan AI mesti mengekalkan “rantaian tanggungjawab,” tulisnya, sambil menambah bahawa “mereka yang mereka bentuk, melatih, membenarkan dan menggunakan teknologi mesti dipertanggungjawabkan atas keputusan mereka.”

Ensiklik paus itu sangat berbeza dengan manifesto yang dikeluarkan bulan lepas oleh Ketua Pegawai Eksekutif Palantir Alex Karp, di mana beliau mengisytiharkan syarikat teknologi Amerika mempunyai “kewajipan afirmatif” untuk membantu tentera AS, menyeru penyemiliterisan semula Jerman dan Jepun, dan berhujah bahawa Barat tidak sepatutnya terlibat dalam “debat sandiwara mengenai kebaikan membangunkan teknologi yang mempunyai aplikasi kritikal ketenteraan dan keselamatan negara.”

Bagaimanapun, Leo telah menemui beberapa sekutu dalam industri AI. Pengasas bersama Anthropic Christopher Olah bertemu dengan paus di Vatican pada Isnin, dan memberitahu penonton pemimpin gereja kanan bahawa makmal AI beroperasi “dalam satu set insentif dan kekangan yang kadangkala boleh bercanggah dengan melakukan perkara yang betul,” dan mengawal selia industri ini adalah “keharusan moral berskala bersejarah.”

Pertelingkahan dengan Trump

Olah dan Leo kedua-duanya telah menyinggung Presiden AS Donald Trump dalam beberapa bulan kebelakangan ini. Trump membatalkan kontrak Pentagon dengan Anthropic pada Februari, selepas syarikat itu enggan membenarkan perisiannya digunakan untuk pengawasan domestik besar-besaran atau senjata autonomi sepenuhnya. Dua bulan kemudian, Trump melancarkan teguran keras terhadap Leo, memanggil paus itu “lemah” atas penentangannya terhadap perang AS-Israel ke atas Iran.

Leo telah menyifatkan ancaman Trump untuk memusnahkan tamadun Iran sebagai “sungguh tidak boleh diterima,” dan menegur Setiausaha Perang Pete Hegseth kerana menggesa rakyat Amerika untuk berdoa untuk kemenangan “dalam nama Yesus Kristus.” Tuhan, jawab Pope, “tidak mendengar doa mereka yang melancarkan peperangan.”

Pope juga telah mengutuk penyemiliterisan semula Eropah yang sedang berlangsung, memberi amaran bahawa penyemiliterisan semula “menghabiskan pelaburan dalam pendidikan dan penjagaan kesihatan, menjejaskan kepercayaan dalam diplomasi, dan memperkayakan golongan elit yang tidak peduli dengan kebaikan bersama.”