CEO JPMorgan Jamie Dimon memperingatkan perlunya kontrol untuk Claude Mythos
Kecerdasan buatan (AI) semakin kuat belakangan ini, dan hal ini diperkuat oleh instruksi terbaru dari pemerintah AS untuk membatasi akses ke model Claude Mythos dari Anthropic.
Jamie Dimon, CEO JPMorgan, menyebutkan bahwa risiko dari teknologi ini adalah “masalah nyata,” dan ia membandingkan akses luas terhadap AI seperti “memberikan peluru berpandu kepada individu.” Pernyataan ini disampaikan dalam sebuah acara di Pennsylvania Defense and Innovation Summit, menyoroti betapa pentingnya untuk menangani risiko yang mungkin ditimbulkan oleh AI.
Claude Mythos sudah terbukti mampu mengidentifikasi dan mengeksploitasi tantangan di bidang cybersecurity. Saat ini, akses terhadap AI ini dibatasi hanya untuk sejumlah organisasi, perusahaan, serta departemen federal dan militer. Akses publik sudah ditutup karena kekhawatiran yang muncul dari potensi masalah keamanan yang bisa ditimbulkan oleh kecerdasan buatan yang kuat ini.
Meski Claude Mythos bukan ancaman yang bisa menyadari dirinya sendiri seperti Skynet dalam film Terminator, AI ini tetap bisa menyebabkan kerusakan besar jika jatuh ke tangan yang salah. Dengan kemampuannya mengidentifikasi kerentanan di cybersecurity, AI ini menjadi alat defensif yang sangat kuat bagi para analis keamanan siber. Namun, jika berada di tangan yang salah, bisa menjadi sumber kekuatan penghancur yang dahsyat.
Selain itu, kemampuan otomatis AI ini memudahkan para penjahat siber untuk memperbesar operasi kejahatan mereka, membuat ransomware, phishing, dan penipuan berbasis data lainnya menjadi jauh lebih menguntungkan. Bukan hanya dalam cybersecurity, penggunaan AI dalam penelitian ilmiah, khususnya di bidang biologi, juga bisa disalahgunakan oleh penyerang untuk mengubah konsep kompleks menjadi istilah yang lebih mudah untuk dieksploitasi.
Ini menambah tantangan strategis, mengingat ada ketidakimbangan antara negara atau entitas yang memiliki akses eksklusif terhadap teknologi ini.
Akan kah publik pernah mengakses Claude Mythos dari Anthropic?
Melihat pertimbangan keamanan yang ada, tampaknya tidak mungkin Claude Mythos akan tersedia untuk publik dalam waktu dekat. Namun, Anthropic telah menyatakan niatnya agar fitur dan kemampuan serupa Mythos bisa lebih luas diakses. Untuk mencapai itu, mereka perlu mengembangkan dan menerapkan berbagai langkah keamanan.
Senario yang kemungkinan besar adalah akses publik ke Mythos akhirnya akan dibuka, namun dengan pembatasan pada fitur-fitur tertentu yang berkaitan dengan cybersecurity dan tugas serta penelitian biologis/milik. Proyek Glasswing sudah berjalan dengan beberapa mitra utama, termasuk Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, dan lainnya. Proyek ini kemungkinan akan diperluas sampai langkah-langkah keamanan diakui aman untuk digunakan secara publik.
Kita perlu terus memantau perkembangan ini, sebab dengan teknologi yang semakin maju, perbatasan antara inovasi yang bermanfaat dan risiko yang mengancam menjadi semakin tipis. Bagaimana kita bisa memanfaatkan teknologi ini tanpa mengorbankan keamanan dan integritas? Ini adalah tantangan yang harus dihadapi bersama.
