Pope Leo XIV baru saja menerbitkan ensiklik pertamanya pada hari Senin. Berjudul Magnifica Humanitas, ensiklik ini membahas tentang “melindungi manusia di era kecerdasan buatan.” Meskipun AI menjadi fokus utama, permasalahan yang disoroti Leo sebenarnya lebih tua dan lebih luas: ketidakadilan, perang, penurunan demokrasi, dan konsentrasi kekuasaan di tangan segelintir orang yang tidak peduli apakah kemanusiaan tetap hebat atau tidak.
Dalam dokumen setebal 200 halaman ini, yang dipresentasikan bersama Chris Olah, pendiri perusahaan AI Anthropic, Leo berargumen bahwa teknologi yang dibangun dan dikelola oleh sekelompok elit kecil tidak dapat, secara definisi, melayani kepentingan umum.
“Ketika kekuasaan seperti itu terpusat di tangan segelintir orang, kekuasaan cenderung menjadi tidak transparan dan menghindari pengawasan publik, meningkatkan risiko bentuk-bentuk perkembangan yang menyimpang yang menciptakan ketergantungan baru, eksklusi, manipulasi, dan ketidakadilan,” tulisnya.
“Sebenarnya, seperti halnya setiap pergeseran teknologi besar, AI cenderung memperkuat kekuatan mereka yang sudah memiliki sumber daya ekonomi, keahlian, dan akses data,” lanjut ensiklik ini, menyoroti keprihatinan bahwa elit dapat menggunakan kekuatan mereka untuk “membentuk informasi dan pola konsumsi, mempengaruhi proses demokrasi, dan mengarahkan dinamika ekonomi untuk keuntungan mereka sendiri.”
Ensiklik ini muncul beberapa hari setelah Presiden Donald Trump menunda penandatanganan perintah eksekutif mengenai AI, yang seharusnya memberi pemerintah wewenang untuk mengawasi model-model baru sebelum diluncurkan, atas dorongan investor VC dan mantan czar AI Gedung Putih, David Sacks.
Pope Leo menyerukan agar AI dipandu oleh “kriteria yang jelas dan pengawasan yang efektif” yang berakar pada partisipasi dari komunitas yang akan terpengaruh. Secara lebih konkret, Leo menyerukan penghentian perlombaan senjata AI — dorongan untuk membangun “algoritma yang semakin kuat dan kumpulan data yang lebih besar” yang diyakini akan “mengamankan dominasi geopolitik atau komersial.”
“Menghentikan perlombaan senjata berarti membongkar asumsi bahwa kekuatan teknis otomatis memberikan hak untuk memerintah,” tulisnya.
Dinamika ini sebenarnya sudah ada jauh sebelum AI. Ensiklik Leo XIII pada tahun 1891, Rerum Novarum, juga membahas konsentrasi kekuasaan saat Revolusi Industri, namun kita tidak perlu melihat jauh-jauh. Cobalah berpikir tentang akuisisi Elon Musk terhadap Twitter dan pemanfaatan platform tersebut untuk membantu pemilihan Trump, atau ratusan juta dolar yang mengalir dari elit teknologi ke super PAC untuk menghalangi regulasi AI — pola-pola inilah yang jelas menginspirasi karya Leo XIV.
Pope Leo sampai pada kesimpulan yang sudah banyak orang capai: kekuatan dan kemampuan AI yang surreal saat ini meningkatkan tingkat risiko secara signifikan.
Profesor Paolo Carozza dari Fakultas Hukum Notre Dame, yang juga anggota Akademi Ilmu Sosial Kepausan dan ketua Dewan Pengawasan Meta, mengatakan bahwa misinformasi yang digerakkan oleh AI dan deepfake telah “mengikis kemampuan kita untuk mengenali mana yang benar dan mana yang tidak, dan itu benar-benar berdampak pada politik demokratis.” Praktik industri teknologi dalam “mengumpulkan dan memanipulasi” data manusia, tambahnya, menimbulkan “tantangan mendasar terhadap kebebasan kognitif.”
