Sekretaris Jenderal PBB, António Guterres, menyerukan larangan terhadap senjata otonom yang dapat mematikan, yang ia sebut sebagai ‘robot pembunuh’, berdasarkan pembahasan di Dialog Global Pertama tentang Tata Kelola Kecerdasan Buatan di Jenewa.
Permintaan Guterres untuk melarang senjata ini menitikberatkan pada kemampuan robot untuk mengidentifikasi, memilih, dan menyerang target tanpa pengawasan manusia. Ini artinya, keputusan hidup dan mati diserahkan kepada kecerdasan buatan dan sistem komputer lainnya.
Ia menegaskan bahwa beberapa keputusan harus tetap berada di tangan manusia, terutama keputusan untuk mengambil nyawa manusia. Menyerahkan tanggung jawab ini kepada robot pembunuh bisa dianggap “secara moral sangat tercela†dan “tidak dapat diterima secara politik,†katanya.
Regulasi Global untuk AI Militer
Inti dari argumen Sekretaris Jenderal adalah mendesak pemerintah untuk bertindak sekarang dan melarang robot-robot semacam ini, alih-alih menunggu sampai senjata otonom menyebabkan insiden besar. “Jangan sampai kita menunggu sampai terjadi kekejaman untuk bertindak,†kata Guterres. “Beberapa keputusan harus tetap selamanya menjadi urusan manusia – terutama keputusan untuk mengambil nyawa.â€
Isu ini terasa semakin mendesak seiring dengan penggunaan model AI dan chip canggih dalam intelijen militer, penargetan, dan sistem di medan perang lainnya. Pikiran Guterres juga sejalan dengan pendapat Anthropic, yang baru-baru ini berselisih dengan Pentagon setelah meminta jaminan bahwa model mereka tidak akan digunakan untuk senjata otonom atau pengawasan.
Meskipun Pentagon menolak batasan tersebut, dengan alasan bahwa mereka harus dapat menggunakan model Anthropic untuk tujuan yang sah, kasus ini menunjukkan bagaimana perusahaan swasta semakin terlibat dalam perang digital.
Pelaporan dari Wall Street Journal juga mengutip pandangan serupa dari Paus Leo XIV, yang memperingatkan bahwa senjata yang dikendalikan oleh AI dapat mempromosikan pandangan “anti-manusia†terhadap perang. Ia memperingatkan bahwa otonomi dapat mengurangi beberapa bahaya dan menjauhkan pemimpin politik dari konsekuensi manusia dalam konflik.
Perlu Ada Keseimbangan antara Manfaat dan Risiko AI
Namun, kecerdasan buatan menjanjikan sejumlah manfaat bagi perang modern, terutama dalam kemampuannya untuk memproses informasi dalam jumlah besar dengan sangat cepat. Dengan komputasi modern, militer dapat merespons ancaman dengan kecepatan kilat, meningkatkan akurasi dan presisi, serta mengurangi risiko bagi prajurit dan mungkin juga mengurangi korban sipil.
Banyak kritikus mempertanyakan apakah pengawasan manusia terhadap sistem AI benar-benar berarti jika orang yang bertanggung jawab hanya memiliki waktu beberapa detik untuk bertindak berdasarkan informasi yang dihasilkan AI. Masih belum jelas siapa yang harus bertanggung jawab atas insiden atau kesalahpahaman – apakah operator manusia, komandan, produsen perangkat keras, atau pengembang perangkat lunak.
Guterres mengingatkan dalam sebuah unggahan di X bahwa kita mungkin adalah generasi terakhir yang dapat menentukan syarat di mana umat manusia dan mesin dapat hidup berdampingan. “Ini mungkin terdengar seperti fiksi ilmiah, tetapi ini adalah kemungkinan nyata yang bisa mengubah dunia dengan cara-cara yang belum kita pahami, dan bisa mengubah dinamika kekayaan di planet kita yang memerlukan perhatian kita,†tambah Yoshua Bengio, Co-Chair Independent International Scientific Panel on AI.
