Peluncuran Anthropic Mythos baru-baru ini adalah alarm bagi industri teknologi. Keputusan Anthropic untuk tidak merilisnya secara publik menunjukkan seberapa besar risiko yang kini harus dihadapi. Agen AI telah berkembang dari sekadar chatbot yang lebih canggih menjadi karyawan yang efektif dengan akses ke database, kunci API, dan hak akses sistem.
Namun, keamanan yang melindungi mereka dibangun dengan strategi yang sama yang gagal menghentikan jailbreak ChatGPT pada 2023. Kali ini, tidak ada manusia yang mereview output agen, melainkan hanya agen otonom yang melaksanakan perintah dalam ruang tertutup.
Agen AI sedang merombak sistem perusahaan dan cara kerja kita. Mengamankan mereka membutuhkan perubahan pola pikir yang sama mendasarnya. Dengan agen yang bertindak secara mandiri, ketahanan harus berakar pada kontrol dasar, termasuk keamanan tingkat perangkat keras dan lapisan bawah. Ini semua untuk berjaga jika pengaman di lapisan atas gagal.
Bagaimana Agen AI Memperluas Permukaan Serangan
Sebelum ada AI yang bersifat agen, risiko terbesar dari AI adalah rekomendasi buruk, respons yang tidak pantas, dan paparan data percakapan. Pengawasan manusia berfungsi sebagai pengaman untuk setiap tindakan, di mana sistem AI tidak memiliki akses langsung ke informasi sensitif. Kekhawatiran utama adalah kerusakan reputasi, bukan risiko terhadap infrastruktur yang mendasarinya.
Ketika Anthropic merilis Model Context Protocol (MCP) pada November 2024, mereka menetapkan kerangka standar yang memungkinkan agen AI terhubung dengan database, sistem file, dan alat perusahaan. Namun, dalam delapan bulan, muncul kerentanan kritis (CVE-2025-49596, CVSS 9.4) yang memicu respons keamanan darurat di seluruh industri.
Risiko muncul dari empat faktor yang bekerja bersamaan. Otonomi berarti agen dapat memutuskan dan bertindak tanpa tinjauan manusia. Akses istimewa memberi mereka kredensial, token, dan izin sistem file. Eksekusi dengan kecepatan mesin menyisakan sedikit waktu untuk intervensi manusia. Sementara itu, jangkauan lintas sistem berarti satu agen yang terkompromi bisa berpindah ke lingkungan yang terhubung.
Secara keseluruhan, semua faktor ini memperluas permukaan serangan jauh melampaui apa yang bisa dikelola oleh kontrol keamanan tradisional, bahkan yang didukung AI sekalipun.
Mengapa Pertahanan yang Hanya Berbasis Software Terus Mengalami Kegagalan
Industri bergerak cepat untuk mengamankan agen AI, namun responsnya sebagian besar mencerminkan pendekatan yang sudah akrab: menambahkan lebih banyak lapisan perangkat lunak. Kebanyakan perusahaan fokus pada dua lapisan utama: pengaman input – menerapkan lebih banyak alat perangkat lunak untuk menghentikan instruksi berbahaya sebelum mencapai agen AI, dan izin serta pemantauan – membatasi apa yang bisa diakses oleh agen yang terkompromi.
Ini adalah strategi yang sama yang diandalkan industri selama beberapa dekade: menerapkan dengan cepat, tetap gesit, dan mengatasi kerentanan saat muncul. Kedua metode ini beroperasi di dalam batas kepercayaan perangkat lunak.
Tapi sejarah menunjukkan bahwa pendekatan ini sering berakhir sama: dengan kebutuhan akan perlindungan di lapisan perangkat keras. Pada 1990-an dan 2000-an, keamanan jaringan merespons eksploitasi perangkat lunak dengan mengimplementasikan lapisan perangkat lunak tambahan. Pelanggaran terus terjadi sampai organisasi akhirnya mengadopsi segmentasi jaringan yang ditegakkan oleh perangkat keras.
Polanya sama juga terjadi pada keamanan endpoint di tahun 2000-an dan 2010-an. Saat malware berkembang untuk menghindari deteksi, responsnya adalah analisis perilaku, sandboxing, serta deteksi dan respons endpoint. Namun, lebih banyak perangkat lunak tetap diterapkan. Pelanggaran terus berlanjut sampai chip TPM (Trust Platform Module) dan boot aman yang ditegakkan perangkat keras menjadi umum.
Pelajaran yang umum mengalir di setiap domain ini: ketika batas kepercayaan perangkat lunak terganggu, lapisan perangkat keras – di mana data sebenarnya berada – juga harus diamankan.
Urgensi Keamanan di Tingkat Perangkat Keras
Kali ini, kita tidak bisa belajar dengan lambat. Agen sudah mulai terhubung ke sistem yang digunakan bisnis untuk operasi sehari-hari. Insiden seperti kerentanan kritis MCP dan laporan terbaru tentang kebocoran data yang disebabkan oleh agen AI Meta menunjukkan seberapa cepat risiko bisa menjadi nyata.
Pengaman, izin, dan pemantauan memang penting, tetapi tidak cukup. Ini menjadi lapisan keamanan yang menunjukkan sejarah akan diabaikan. Pertahanan yang efektif memerlukan lapisan ketiga – yang ada di luar batas kepercayaan perangkat lunak dan memberi pengawasan di tingkat perangkat keras, di mana data sensitif akhirnya disimpan dan diproses.
Root of Trust perangkat keras berfungsi sebagai penghalang keamanan terakhir, membantu menahan pelanggaran sebelum berkembang menjadi kerusakan sistem secara keseluruhan. Dengan semakin banyak perusahaan yang menggunakan agen AI, keamanan perlu bergerak lebih dalam dari sekadar lapisan aplikasi.
Industri sudah belajar bahwa perangkat lunak saja tidak dapat mengamankan sistem yang kompleks – mereka seharusnya tidak menunggu sampai terjadi pelanggaran besar untuk belajar pelajaran yang sama lagi.
