Meta baru-baru ini mengalami insiden yang cukup mengkhawatirkan terkait sistem dukungan AI mereka. Secara tidak sengaja, sistem ini membiarkan penyerang mengambil alih akun tanpa terdeteksi oleh tim keamanan. Bagaimana bisa? Penyerang hanya meminta sistem AI untuk mengganti email pemulihan dan mereset kata sandi, dan sistem itu pun langsung beraksi. Menariknya, tidak ada malware, tidak ada kredensial yang dicuri, dan deteksi tidak berjalan sebagaimana mestinya.
Hal ini menunjukkan bahwa masalah bukan pada sistem kontrol itu sendiri, tetapi pada kepercayaan yang ada pada sistem tersebut. Penyerang memanfaatkan kepercayaan yang ada dan membuat permintaan yang seolah-olah sah. Inilah yang seharusnya mengganggu pemimpin keamanan: mereka tidak hanya menerobos kontrol, tetapi dengan cerdik menggunakan kontrol yang sudah ada.
Penyerang Memanfaatkan Sistem yang Ada
Di dalam tumpukan deteksi, serangan ini tidak menimbulkan sinyal apapun untuk dibaca. Agen menggunakan email baru, mereset kata sandi, dan semua log berada dalam catatan yang sah. Tidak ada login anomali atau lonjakan kegagalan otentikasi, dan sistem seolah tidak melihat apapun yang mencurigakan. Penyerang sangat cerdik, mereka membuat tampaknya semua berjalan normal.
Brian Krebs, seorang jurnalis yang meliput isu keamanan, mencatat bagaimana penyerang memanfaatkan VPN untuk mengelabui lokasi dan meminta sistem dukungan untuk menambahkan email baru serta mengirim kode verifikasi. Yang mengejutkan, bot tersebut langsung memenuhi permintaan itu, mengirim kode sekali pakai kepada penyerang, tanpa mempertanyakan apapun. Begitu proses reset selesai, pemilik akun pun terkunci keluar dalam hitungan menit.
Akun-akun yang diambil alih bukanlah target yang lemah, termasuk akun dari Sephora, pemimpin senior Angkatan Luar Angkasa AS, serta akun yang terkait dengan pemerintahan Obama. Namun, Meta membantah klaim bahwa akun tersebut telah terkena dampak, namun ada fakta bahwa insiden ini menyoroti kerentanan yang ada.
Autentikasi Multi-Faktor (MFA) Berhasil, Namun Jalur Pemulihan Tidak
Detail yang menentukan siapa yang selamat dari serangan ini cukup sempit. Serangan ini gagal pada akun yang sudah menggunakan autentikasi multi-faktor (MFA), namun jalur pemulihan yang ada menjadi celah. Ketika jalur tersebut meminta selfie video, penyerang menggunakan foto publik target untuk membuat video palsu dan mengirimkannya sebagai verifikasi yang sah. Kegagalan ada pada pintu pemulihan, bukan pada pintu login yang dijaga oleh MFA.
Masalah ini bukan hanya kesalahan dari Meta, namun lebih cenderung pada arsitektur yang diterapkan. MFA menjamin keamanan jalur login, tapi jalur pemulihan berfungsi dengan mengurangi pemeriksaan yang biasanya dilakukan, karena dirancang untuk digunakan ketika pengguna kehilangan akses normal. Meta sudah menempatkan agen di jalur tersebut dengan akses untuk menulis status autentikasi tanpa pemeriksaan yang tegas.
Ada istilah dalam keamanan siber yang menggambarkan situasi ini, yaitu “confused deputy”, di mana sistem yang dipercaya dapat digunakan melawan kepentingan mereka sendiri. Peneliti keamanan, Ian Goldin, menyatakan bahwa bot AI sangat mudah direkayasa sosial, seperti halnya manusia, dan mereka cenderung membantu dengan cepat. Setiap perusahaan yang memasukkan agen ke dalam proses pemulihan, penyediaan, atau pengaturan kata sandi berpotensi menghadapi risiko yang sama.
AI Authority Audit Grid
Pemimpin operasi keamanan perlu memeriksa sistem dukungan mereka sendiri sebelum memperbarui, dengan meneliti setiap baris sebagai penulisan autentikasi yang dilakukan agen pada jalur pemulihan. Setiap baris harus mencakup apa yang dibuktikan oleh Meta, mengapa sistem Anda tidak mendeteksinya, serta kontrol yang menutup celah tersebut.
| Penulisan Autentikasi | Apa yang dibuktikan oleh Meta | Mengapa sistem Anda tidak mendeteksinya | Kontrol Enterprise dan pemilik |
| Autentikasi login (MFA, faktor permintaan) | Terkendali pada login. Akun dengan MFA tetap aman. Celah ada pada jalur pemulihan. | MFA mengamankan jalur login untuk pemilik dan penyerang, tetapi tidak memadai untuk jalur pemulihan. | Wajibkan MFA sebagai standar dasar dan perpanjang verifikasi langkah-langkah untuk jalur pemulihan. Pemilik: IAM. |
| Rebinding email | Pengambilalihan penuh. Agen dapat mengikat email yang dikendalikan penyerang. | Log IAM mencatat agen sebagai pihak yang sah, sehingga ini dibaca sebagai transaksi yang sah tanpa sinyal ke SOC. | Konfirmasi melalui saluran lain sebelum melakukan binding. Pemilik: IAM dan rekayasa platform. |
| Reset kata sandi | Pengambilalihan dalam hitungan menit. | Reset dilakukan di jalur pemulihan, di luar pemeriksaan MFA. | Perlu faktor kedua non-email sebelum reset selesai. Pemilik: IAM. |
| Perubahan metode pemulihan | Keterlibatan yang bersifat persisten. | Penukaran email atau telepon secara diam-diam menghilangkan jalur pemilik tanpa visibilitas SOC. | Wajibkan peninjauan langkah lanjut untuk setiap perubahan. Pemilik: GRC dan IT Operations. |
| Eksekusi aksi akun | Kecepatan berpindah cepat. | Agen mengeksekusi perubahan status tanpa pemeriksaan oleh manusia. | Pisahkan keputusan dari eksekusi. Pemilik: rekayasa platform dan tim AI. |
| Logging aksi agen | Celahan deteksi. | Tanpa telemetri berbasis per aksi ke SIEM, aksi agen yang sah tidak terdeteksi. | Keluarkan data keputusan terstruktur untuk setiap penulisan status autentikasi ke SIEM. Pemilik: SOC dan rekayasa deteksi. |
Solusi bukan sekadar menambahkan MFA lagi ke layar login. Mereka yang selamat dari insiden Meta sudah memiliki kontrol tersebut sebelumnya. Solusinya adalah mengeluarkan otorisasi dari sistem kehormatan jalur pemulihan dan menempatkannya di belakang gerbang yang tidak dapat digeser hanya karena permintaan terdengar meyakinkan.
Meta telah menunjukkan apa yang terjadi ketika karyawan paling dipercaya juga memegang kunci. Agen berikut yang serupa sudah mulai mengakses data berharga anda.
