Agen coding AI Cursor menyebabkan hancurnya database produksi dan backup dalam waktu sembilan detik
Banyak orang terkejut saat mendengar cerita dari Jer Crane, pendiri platform SaaS otomotif PocketOS, yang menyaksikan bagaimana agen AI dari Cursor menghapus seluruh database produksinya beserta backup-nya hanya dalam sembilan detik.
Peristiwa ini terjadi ketika agen yang didukung oleh Claude Opus 4.6 dari Anthropic mengalami kesalahan pada kredensial. Dengan cepat, agen ini mengambil keputusan sendiri untuk mengatasi masalah tersebut dengan menghapus volume Railway tempat data aplikasi disimpan. “Semua ini hanya membutuhkan waktu 9 detik,” tulis Crane dalam sebuah postingan di media sosial yang menjelaskan kejadian tersebut.
Agen AI nakal melewati beberapa pengaman
Agen Cursor mencari token API untuk melaksanakan penghapusan dan menemukan salah satunya di sebuah file yang tidak terkait. Token tersebut awalnya dibuat untuk menambah dan menghapus domain kustom melalui Railway CLI, namun izin yang diberikan tidak terbatas hanya untuk tindakan tersebut.
API Railway memungkinkan tindakan destruktif tanpa ada verifikasi, dan platform ini menyimpan backup di volume yang sama dengan data sumbernya. Ketika sebuah volume dihapus, semua backup yang terkait juga hilang, membuat Crane tidak memiliki pilihan pemulihan yang langsung.
Ketika ditanya mengapa agen tersebut melanjutkan dengan penghapusan, agen itu mengaku telah menebak tanpa memverifikasi, dan menjalankan tindakan destruktif tanpa diminta. Crane menganggap bahwa banyak kesalahan berasal dari arsitektur Railway, bukan hanya dari agen AI tersebut.
API penyedia cloud ini tidak memiliki prompt konfirmasi untuk tindakan destruktif, menyimpan backup di volume yang sama dengan data produksi, serta memungkinkan token CLI memiliki izin luas di berbagai lingkungan.
Railway juga aktif mempromosikan penggunaan agen coding AI kepada pelanggan, menciptakan lebih banyak peluang untuk kegagalan semacam ini. Crane menekankan bahwa sistem backup cloud yang baik harus menyimpan salinan di lokasi yang terpisah, bukan di volume yang sama dengan data asli.
Pemulihan dan pelajaran yang didapat
CEO Railway, Jake Cooper, turun tangan untuk membantu memulihkan data Crane dalam waktu satu jam. Perusahaan juga memperbaiki endpoint yang rentan untuk melakukan penghapusan tertunda dan menambahkan lebih banyak pengaman pada API-nya.
Crane memperkirakan telah menghabiskan banyak waktu membantu pelanggannya merekonstruksi pemesanan dari riwayat pembayaran Stripe, integrasi kalender, dan konfirmasi email. Ia mengajak untuk menerapkan prompt konfirmasi yang lebih ketat, token API yang dapat dibatasi, isolasi backup yang tepat, prosedur pemulihan yang sederhana, dan langkah pengaman yang baik untuk agen AI.
Alat-alat AI seperti Cursor dan Claude memang kuat, tetapi mereka hanya seaman infrastruktur yang terhubung. Sistem yang memungkinkan penghapusan dalam waktu sembilan detik baik dari data produksi maupun backup-nya jelas belum siap untuk agen AI yang bisa bertindak tanpa persetujuan manusia.
Data Crane akhirnya berhasil dipulihkan, tetapi insiden ini membuktikan betapa mudahnya sebuah agen AI dapat menghancurkan data ketika platform yang mendasarinya tidak memiliki fitur keselamatan dasar.
