CEO Anthropic, Dario Amodei, baru-baru ini memberikan peringatan mengenai kecerdasan buatan (AI) yang menciptakan celah bagi perusahaan teknologi, pemerintah, dan bank di seluruh dunia untuk memperbaiki ribuan kerentanan perangkat lunak yang ditemukan oleh model terbarunya. Model AI ini, bernama Mythos, diumumkan bulan lalu dan telah mengungkap kerentanan yang telah ada selama beberapa dekade dalam perangkat lunak penting.
Amodei menambahkan bahwa model-model AI dari Tiongkok, yang menjadi lawan geopolitis, berada “mungkin enam hingga dua belas bulan” di belakang produk dari Anthropic, memberikan waktu sekitar itu untuk menangani masalah yang ada.
Pernyataan tersebut disampaikan dalam acara yang juga dihadiri oleh CEO JPMorgan Chase, Jamie Dimon, di mana Amodei memperkenalkan serangkaian agen baru yang dirancang untuk mengotomatiskan pekerjaan keuangan. Dia mengingatkan bahwa ancaman yang ada bisa sangat serius, seperti peningkatan besar dalam jumlah kerentanan, pelanggaran, serta kerugian finansial akibat ransomware yang menyerang sekolah, rumah sakit, dan tentu saja, bank.
Untuk menjaga keamanan, Anthropic membatasi penggunaan Mythos hanya kepada beberapa perusahaan mitra mengingat potensi penyalahgunaan oleh kriminal atau negara-negara yang bersikap antagonis. Sejumlah pembaruan model terbaru dari perusahaan ini telah memberikan dampak signifikan di pasar, dengan Mythos yang menimbulkan kekhawatiran paling besar di kalangan perusahaan dan pembuat kebijakan.
Amodei menjelaskan bahwa skala eksploitasi siber potensial telah meningkat dengan setiap generasi model Claude. Dalam model terdahulu, ditemukan sekitar 20 kerentanan di browser Firefox. Mythos, dalam jumlah yang jauh lebih besar, menemukan hampir 300 kerentanan, sementara total keseluruhan di seluruh perangkat lunak kini mencapai puluhan ribu.
Mayoritas kerentanan yang ditemukan oleh Mythos belum diumumkan secara publik karena masih dalam tahap perbaikan, dan “para pelaku jahat akan memanfaatkan” kerentanan tersebut jika ditemukan, ungkap Amodei.
‘Dunia yang lebih baik’
Meski banyak peringatan, baik Amodei maupun Dimon menyampaikan nada optimis yang bersyarat. Amodei menjelaskan, “Ini adalah momen berbahaya, namun jika kita merespons dengan benar—dan saya pikir kita mulai mengambil langkah pertama—maka kita bisa memiliki dunia yang lebih baik.” Dia juga menambahkan meskipun ada banyak kerentanan yang harus ditangani, “hanya ada begitu banyak bug yang harus ditemukan.”
Dimon pun mengemukakan bahwa meskipun ketakutan akan serangan siber sangat beralasan, risiko keamanan siber yang ditimbulkan oleh AI adalah “masa transisi.” Dalam hal regulasi, Amodei menyarankan supaya pengawasan AI mirip dengan industri otomotif, yang harus menyeimbangkan keselamatan konsumen dengan kebutuhan industri untuk bersaing.
Dia menekankan, “Kita tidak bisa hanya memulai perusahaan mobil tanpa mempertanyakan, ‘Apakah ada rem pada kendaraan ini?'” Menurutnya, perlu ada proses yang memungkinkan industri beroperasi secara efisien, adil, namun tetap memberikan batasan pada hal-hal yang paling serius.
Acaranya, yang diadakan bersama Dimon, sosok terkenal di industri keuangan, seakan menjadi bukti bahwa Anthropic memiliki keuntungan dibandingkan OpenAI di pasar AI perusahaan, terutama saat dua perusahaan ini bersiap untuk IPO.
Pada Selasa lalu, Anthropic mengumumkan ekspansi platform layanan keuangannya dengan meluncurkan 10 agen AI baru untuk perbankan investasi dan pekerjaan back-office yang juga terintegrasi dengan berbagai program Microsoft Office. Perusahaan ini juga menginformasikan bahwa model terbarunya yang dapat diakses secara luas—Claude Opus 4.7—mendominasi tolok ukur untuk tugas analisis keuangan.
