Paus Menggunakan AI untuk Memperingatkan tentang Bahaya AI – Peneliti

(SeaPRwire) –   Risalah Leo XIV membawa tanda-tanda jelas daripada Claude milik Anthropic, dakwa Linch Zhang

“Sebahagian besar” ensiklik terbaru Pope Leo XIV mengenai bahaya kecerdasan buatan sebenarnya ditulis oleh kecerdasan buatan, dakwa penganalisis Linch Zhang.

Dalam dokumen ‘Magnifica Humanitas’ (Kemanusiaan yang Agung) sepanjang 42,000 perkataan itu, paus tersebut memberi amaran tentang kuasa Silicon Valley yang semakin berkembang seperti sebuah negara, keburukan senjata autonomi, dan bahaya membiarkan AI “membina Menara Babel yang baharu” serta merendahkan martabat manusia menjadi “sumber daya untuk digunakan dan dieksploitasi.”

Walaupun terdapat rayuan agar AI dikawal selia dan “dilucutkan senjata,” sebahagian besar daripada ‘Magnifica Humanitas’ menunjukkan tanda-tanda jelas ditulis oleh AI, dakwa Zhang dalam satu catatan blog pada hari Selasa.

“Frasa dan tanda baca yang lebih kerap digunakan oleh AI jauh lebih banyak terdapat dalam ensiklik paus ini berbanding ensiklik terdahulu,” tulis Zhang, sambil menunjukkan penggunaan tanda sengkang (em-dashes) dalam dokumen tersebut (127 kejadian, berbanding 26 dalam empat ensiklik oleh Pope Francis) dan “trikolon: satu siri tiga perkataan, frasa, atau klausa selari yang digunakan untuk kesan retorik.”

Setelah menjalankan teks tersebut melalui pengesan AI Pangram, Zhang mendapati bahawa beberapa perenggan “hampir 0% AI,” tetapi yang lain adalah antara 40% hingga 100% ditulis oleh AI. Kesemua empat ensiklik Francis didapati ditulis sepenuhnya oleh manusia, begitu juga dengan tulisan Pope Benedict XVI dan John Paul II. Pangram juga menandakan versi bahasa Itali ensiklik tersebut sebagai AI, mencadangkan bahawa kecerdasan buatan bukan sekadar digunakan untuk menterjemah dokumen itu.

Apabila eksperimen Zhang diulangi oleh The Verge, kira-kira 46% daripada ensiklik itu didapati ditulis oleh AI.

LLM (model bahasa besar) khusus yang digunakan untuk menghasilkan teks tersebut berkemungkinan besar adalah Claude milik Anthropic, dakwa Zhang, memetik kebiasaannya sendiri dengan Claude dan penggunaan berlebihan perkataan tertentu seperti “genuinely.”

Fakta bahawa perenggan tertentu kelihatan bebas sepenuhnya daripada AI menunjukkan bahawa “beberapa pegawai kanan Vatican banyak menggunakan bantuan AI untuk ensiklik ini dan ramai (mungkin termasuk Pope Leo sendiri) tidak menggunakannya,” tulis Zhang.

“Hipotesis sementara saya ialah Pope Leo tidak meluluskan penggunaan AI dalam ensiklik, dan berkemungkinan besar tidak menyedari penggunaan AI yang ketara dalam ensikliknya sendiri,” simpul Zhang.

Vatican tidak mengulas mengenai dakwaan Zhang. Begitu juga Anthropic, yang pengasas bersamanya, Christopher Olah, menyampaikan ucapan bersama Paus pada hari Isnin.