Model keamanan digital modern awalnya dibangun untuk memperbaiki asumsi historis yang tidak tepat: keyakinan bahwa jika seorang pengguna atau sistem berada di dalam jaringan perusahaan, maka mereka dapat dipercaya tanpa syarat. Namun, dalam satu dekade terakhir, pertumbuhan pesat penyimpanan cloud, perangkat lunak bisnis berbasis langganan, dan bekerja secara remote menghapus batasan jaringan ini.
Sebagai respon, model keamanan kita mulai berfokus pada verifikasi identitas orang yang mencoba melakukan login, memeriksa kondisi komputer mereka, mengharuskan beberapa langkah verifikasi selama proses login, serta terus memeriksa apakah mereka adalah orang yang mereka klaim.
Model ini efektif saat manusia melakukan login untuk menjalankan tugas. Namun, dengan munculnya agen AI otonom, risiko keamanan yang sebenarnya tidak terpusat pada layar login. Risiko ini mulai muncul setelah akses diberikan.
Agen AI tidak berperilaku seperti perangkat lunak standar. Mereka membaca instruksi dari manusia, menarik konteks dari basis data perusahaan, memanfaatkan berbagai alat, memilih alat digital mereka sendiri, terhubung dengan perangkat lunak eksternal, dan memicu alur kerja otomatis yang kompleks.
Memverifikasi login awal hanya menunjukkan bahwa agen tersebut secara resmi diakui oleh sistem Anda. Namun, itu tidak memberikan informasi tentang apakah tindakan berikutnya yang direncanakan agen tersebut aman, etis, atau benar. Fokus kini beralih pada konteks.
Perkembangan Masalah Identitas Mesin
Tim IT sudah mengalami versi tantangan ini yang lebih sederhana dan tenang dengan identitas non-manusia. Selama bertahun-tahun, perusahaan telah menggunakan akun layanan otomatis, token keamanan, dan sertifikat digital untuk memungkinkan berbagai program perangkat lunak berkomunikasi satu sama lain.
Kebanyakan pemimpin keamanan sangat familiar dengan risiko yang disebabkan oleh kredensial ini: akun yang dibuat untuk proyek sementara dapat diberikan akses permanen ke file database dan kemudian terlupakan lama setelah proyek berakhir. Akun-akun ini menjadi pintu belakang yang senyap dan tidak terpantau ke dalam jaringan.
Akan tetapi, agen AI memperumit masalah ini dengan menambahkan elemen penilaian independen. Sebuah akun layanan tradisional mengikuti kode yang ketat dan telah ditulis sebelumnya. Sebaliknya, agen AI menginterpretasikan tujuan tingkat tinggi, menganalisis konteks secara real-time, memilih alat mereka sendiri, dan secara aktif memutuskan langkah yang harus diambil.
Akibatnya, kebijakan keamanan tidak bisa lagi berhenti di pintu depan. Kita harus melindungi setiap data internal atau aset komputasi yang dapat dijangkau agen dan memantau setiap keputusan yang mereka buat.
Mencocokkan Otonomi dengan Kontrol Eksekutif
Untuk mengelola risiko ini, pemimpin keamanan harus memisahkan dua konsep yang berbeda: seberapa banyak independensi yang dimiliki seorang agen AI dan tingkat akses file yang mereka pegang. Kombinasi dari dua faktor ini menentukan tingkat kontrol yang dibutuhkan.
Misalnya, agen dasar yang hanya merangkum dokumen panjang hanya memerlukan hak baca terbatas dan log aktivitas yang jelas. Namun, agen yang dirancang untuk memperbarui database sensitif, mengakses repositori kode, menulis tipe kode baru, atau mengubah alur kerja bisnis perlu melalui langkah persetujuan manusia yang wajib, batasan operasional yang ketat, dan jalur yang jelas untuk membalikkan kesalahan.
Kita bisa mengkategorikan pekerja digital ini ke dalam tiga tingkat independensi yang berbeda, dengan mengaplikasikan kontrol keamanan yang lebih ketat seiring meningkatnya otonomi mereka:
- Conversational AI Agents (GenAI), agen produktivitas yang biasanya dibangun dan dikelola oleh karyawan dan tim sebagai bagian dari produktivitas mereka. Dalam konteks keamanan, kita perlu memastikan otorisasi RBAC yang tepat, terkait dengan karyawan dan tim, memastikan akses hanya ke data yang tidak sensitif, serta memungkinkan pencatatan dan validasi respons untuk menjaga integritas.
- Agen yang bertindak dengan Pengawasan Setengah/Penuh Manusia (AI Agents), seperti alat dukungan pelanggan yang menyusun email atau menyiapkan pembaruan database untuk ditinjau. Di sini, tim keamanan harus memvalidasi parameter alat yang digunakan dan mengharuskan manusia untuk menyetujui setiap tindakan yang melibatkan penulisan, penghapusan, pengeluaran uang, atau pengiriman informasi secara eksternal.
- Fully Autonomous Agents (Agentic AI), yang dapat mereset kata sandi atau memicu alur kerja kompleks secara mandiri. Mereka membutuhkan batasan yang paling ketat, mulai dari visibilitas hingga pembangunan struktur agen, penggunaan alat, dan lainnya, serta fokus pada kontrol aktif.
Industri kini lebih condong pada agen otonom yang meminta persetujuan manusia ketika perilaku mereka tidak normal.
Kebutuhan untuk Inspeksi Real-Time
Untuk menerapkan kebijakan ini, tim keamanan membutuhkan sudut pandang khusus di dalam jaringan. Mereka harus dapat memeriksa perintah manusia, respons agen, alat digital yang digunakan, dan pergerakan data selama pekerjaan sedang berlangsung.
Ini memerlukan arsitektur yang dapat menemukan semua aktivitas agen yang aktif di seluruh bisnis, mengatur bagaimana agen-agen tersebut menggunakan alat internal, dan menjaga visibilitas penuh atas aliran data dan alur kerja otomatis.
Nilai nyata dari pendekatan ini terletak pada konteks. Ketika perilaku agen AI dilihat bersamaan dengan lalu lintas jaringan, aktivitas pengguna, dan log basis data cloud, tim keamanan dapat menyelidiki insiden dengan bukti yang jelas.
Bagi pemimpin bisnis, ini berarti tata kelola yang lebih bersih dan konsisten di antara pengguna manusia, aplikasi perangkat lunak, dan agen digital.
Cara Memulai: Mulailah dengan Satu Alur Kerja
Mengamankan lanskap baru ini tidak membutuhkan perombakan menyeluruh terhadap seluruh departemen keamanan Anda dalam semalam.
Mulailah dengan memilih satu alur kerja AI yang saat ini sedang digunakan atau mendekati peluncuran. Peta identitas digitalnya, tingkat independensinya, file yang dapat diakses, alat yang digunakan, titik di mana manusia harus menyetujui tindakan, dan bagaimana Anda akan membalikkan kesalahan.
Latihan pemetaan sederhana ini akan dengan cepat menyoroti di mana celah keamanan Anda berada. Jika Anda tidak dapat melihat tindakan agen secara real-time, menyetujui keputusan mereka, memblokir akses mereka, atau menjelaskan perilaku mereka setelah kejadian, kontrol keamanan Anda jelas terlalu jauh.
Dari situ, bangun baseline tentang bagaimana Anda mengamankan agen coding, pemanfaatan AI, hingga akses data dan penggunaan identitas yang memungkinkan Anda menetapkan fondasi dan batasan yang benar.
Prinsip inti dari model keamanan “jangan percaya, selalu verifikasi” harus mengikuti agen ke dalam pekerjaannya sehari-hari. Keputusan yang paling berarti kini bukan lagi siapa yang melakukan login, tetapi apakah tindakan berikutnya mereka harus diizinkan terjadi berdasarkan kondisi spesifik saat ini.
