Dalam dua tahun terakhir, banyak bisnis mencoba untuk memanfaatkan model bahasa besar (LLMs) dalam berbagai bidang seperti dukungan, analitik, pengembangan, dan otomatisasi internal dengan cara yang belum pernah terjadi sebelumnya.
Tidak hanya itu, seiring dengan semakin luasnya adopsi teknologi AI, tren lain juga muncul — para penjahat dunia maya memanfaatkan ketidaksesuaian antara asumsi tentang LLMs dan karakteristik sebenarnya.
Di tahun 2025 dan 2026, beberapa sumber independen menyoroti tren yang sama: penyerangan melalui “prompt injection” tetap menjadi salah satu vektor serangan yang paling berdampak dan banyak ditunjukkan terhadap sistem LLM. Dalam daftar OWASP LLM Top 10 (2025), prompt injection ditempatkan pada kategori LLM01, sebagai kategori kelemahan spesifik LLM yang paling kritis untuk edisi kedua berturut-turut. Peringkat OWASP ini menunjukkan bahwa LLM masih kesulitan untuk memisahkan instruksi dari data dengan handal, sehingga rentan terhadap manipulasi melalui input yang dirancang secara khusus.
Laporan Global Threat Report 2026 dari CrowdStrike — yang dibangun berdasarkan intelijen dari lebih dari 280 lawan yang terpantau — mencatat bahwa aktor ancaman menyuntikkan prompt berbahaya ke dalam alat generatif AI yang sah di lebih dari 90 organisasi pada tahun 2025. Mereka menggunakan suntikan tersebut untuk menghasilkan perintah yang mencuri kredensial dan cryptocurrency. Laporan tersebut sangat jelas: “Prompts adalah malware baru.” Musuh yang didukung AI meningkatkan volume serangan mereka secara keseluruhan sebesar 89% dari tahun ke tahun, dengan prompt injection berfungsi sebagai titik masuk dan pengganda daya.
Insiden di dunia nyata menggambarkan dampak operasional dari masalah ini. Pada Agustus 2024, para peneliti di PromptArmor mengungkapkan kerentanan prompt injection di Slack AI yang memungkinkan penyerang mengekstraksi data dari saluran Slack pribadi yang tidak dapat mereka akses — termasuk kunci API yang dibagikan di saluran pengembang pribadi — dengan memasukkan instruksi berbahaya di saluran publik atau menyematkannya dalam dokumen yang diunggah.
Pada Juni 2025, para peneliti di Aim Security mengungkapkan EchoLeak (CVE-2025-32711, CVSS 9.3), eksploitasi prompt injection tanpa klik pertama yang terdokumentasi terhadap sistem AI produksi, menargetkan Microsoft 365 Copilot. Dengan mengirimkan satu email yang dirancang, tanpa memerlukan interaksi pengguna, seorang penyerang dapat membuat Copilot mengakses file internal dan mengirimkan isinya ke server yang dikendalikan penyerang.
Kedua kerentanan tersebut telah diperbaiki. Insiden ini menegaskan bahwa prompt injection bukanlah kelemahan teoritis, melainkan ancaman praktis dan berulang yang harus dihadapi oleh organisasi saat mereka menerapkan sistem AI dalam skala besar.
Teknik prompt injection telah mengalami evolusi besar dalam beberapa tahun terakhir, sekarang menargetkan arsitektur multi-agen, jalur generasi yang ditingkatkan dengan pengambilan (RAG), pengarah model, dan kemampuan memorisasi jangka panjang.
Tantangan bagi Perusahaan: Terlalu Banyak Kepercayaan
Bisnis mengimplementasikan LLMs untuk memproses instruksi, merangkum informasi, dan memicu alur kerja otomatis, namun sulit bagi LLMs untuk memberi tahu:
Kondisi ini menciptakan peluang bagi penyerang untuk memanipulasi dan mempengaruhi perilaku model, baik secara langsung maupun tidak langsung.
Prompt Injection Modern
Prompt injection lintas model
Penggunaan LLM adalah praktik umum di kalangan perusahaan. Penyerang merusak output dari model tertentu, dengan baik mengetahui bahwa model lain akan memproses konten tersebut. Akibatnya, kerusakan ini menyebar ke seluruh sistem AI.
RAG supply chain poisoning
Penyerang menciptakan informasi berbahaya — dokumen, artikel blog, READMEs di GitHub. Kemudian mereka menunggu hingga informasi berbahaya ini diserap dalam jalur RAG perusahaan, lalu menggunakannya sebagai vektor serangan.
Perampasan agen
Agen AI telah berkembang hingga titik di mana mereka dapat mengirim email, memodifikasi infrastruktur cloud, mengeksekusi potongan kode, dan berinteraksi dengan sistem internal perusahaan. Hanya dibutuhkan satu instruksi untuk membuat agen bertindak berbeda dengan cara yang merugikan.
Serangan overflow konteks
Dengan bantuan jendela konteks berisi jutaan token, penyerang menyisipkan kode berbahaya dalam dokumen dan berharap LLM akan menemukannya dan mengeksekusinya, menggantikan segala instruksi sebelumnya.
Keracunan memori
Karena implementasi memori jangka panjang dalam LLMs, penyerang dapat menyuntikkan instruksi yang mengkonfigurasi ulang status mereka secara permanen.
Manipulasi pengarah model
Perusahaan semakin banyak menggunakan pengarah model untuk memilih antara beberapa LLMs. Penyerang merancang prompt yang memaksa pengalihan ke model yang paling lemah atau kurang terlindungi.
Mengapa Ini Penting Bagi Pimpinan Bisnis
Prompt injection bukanlah masalah teoritis. Ini langsung mempengaruhi:
-
Sistem yang berhadapan dengan pelanggan (chatbots, agen dukungan)
-
Copilot internal (alat pengembang, asisten keamanan)
-
Alur kerja otomatisasi (tiket, operasi cloud, proses HR)
-
Pengelolaan data (jalur RAG, basis pengetahuan)
Risiko ini tidak lagi terbatas pada “model mengatakan sesuatu yang tidak seharusnya.”
Di tahun 2026, prompt injection dapat:
-
Membuat tindakan tidak sah
-
Mengungkapkan data sensitif
-
Mengacaukan alur kerja internal
-
Memanipulasi analitik
-
Merubah logika bisnis
-
Mengkompromikan sistem multi-agen
Permukaan serangan telah meluas secara dramatis.
Apa yang Harus Dilakukan Perusahaan Sekarang
1. Batasi izin model
Batasi apa yang dapat dilakukan model, bukan hanya apa yang seharusnya dilakukan.
2. Segmen konten yang tidak tepercaya
Anggap semua data eksternal — termasuk sumber RAG — sebagai potensi ancaman.
3. Pantau pemanggilan alat
Butuhkan persetujuan manusia untuk tindakan berdampak tinggi.
4. Validasi asal konten
Pastikan jalur RAG tidak menyerap konten eksternal yang teracuni.
5. Perkuat pengarah model
Cegah penyerang memaksa pengalihan ke model yang lebih lemah.
6. Anggap LLMs sebagai komponen yang tidak tepercaya
Pergeseran pola pikir ini adalah dasar dari keamanan AI modern.
Kesimpulan
Prompt injection tetap menjadi cara yang paling efektif untuk mengkompromikan sistem AI perusahaan karena memanfaatkan cara dasar LLMs menginterpretasikan teks. Sampai organisasi menganggap LLMs sebagai interpreter yang tidak tepercaya — bukan sebagai pengambil keputusan otonom — prompt injection akan terus menjadikan ancaman AI sebagai masalah besar.
