OpenAI baru saja mengumumkan fitur baru yang akan memberikan perlindungan tambahan dari serangan prompt injection, di mana instruksi jahat untuk chatbot bisa disembunyikan dalam halaman web dan sumber konten lainnya.
Salah satu hal menarik dari fitur ini adalah Mode Lockdown yang akan menonaktifkan penjelajahan web langsung. Ini berarti kamu hanya bisa mengakses konten yang sudah di-cache. Selain itu, fitur ini juga menghalangi pengambilan dan tampilan gambar dari web, meskipun kamu masih bisa membuat gambar, serta menghentikan melakukan riset mendalam dan mode agen.
Meski Mode Lockdown diaktifkan, OpenAI mengingatkan bahwa ChatGPT masih bisa rentan terhadap prompt injection. Misalnya, instruksi jahat ini bisa muncul dalam konten web yang sudah di-cache atau file yang diunggah, dan tetap bisa mempengaruhi perilaku atau akurasi respons. Tantangan ini menunjukkan bahwa tetap ada potensi risiko meski langkah-langkah pencegahan sudah diambil.
Namun, tujuan dari Mode Lockdown ini adalah untuk mengurangi kemungkinan data sensitif dibagikan selama proses tersebut. Ini adalah langkah yang sangat penting, terutama bagi organisasi atau individu yang menangani informasi sensitif dan ingin perlindungan yang lebih ketat dari risiko pencurian data yang terkait dengan prompt injection.
OpenAI menyampaikan bahwa Mode Lockdown ini tidak ditujukan untuk semua orang. Fitur ini khusus dirancang untuk mereka yang beroperasi dengan data sensitif dan memerlukan keamanan ekstra terhadap potensi risiko tersebut.
Saat ini, OpenAI sedang meluncurkan Mode Lockdown ini untuk akun ChatGPT Business yang menggunakan layanan mandiri, serta untuk beberapa akun pribadi yang memenuhi syarat. Ini menjadi langkah signifikan dalam menjaga keamanan data dan meningkatkan kepercayaan pengguna terhadap produk OpenAI.
Saat dunia digital terus berkembang, fitur seperti ini akan menjadi semakin penting. Perlindungan terhadap data sensitif harus menjadi prioritas utama, terutama dalam era di mana informasi sangat mudah diakses dan potensi risiko selalu ada. Dengan adanya Mode Lockdown, diharapkan pengguna dapat merasa lebih nyaman dalam menggunakan teknologi AI tanpa khawatir akan pelanggaran data. Ini adalah langkah maju yang menggembirakan untuk industri teknologi dan masa depan interaksi manusia dengan AI.
