Belakangan ini, banyak yang membicarakan kejadian di mana salah satu agen OpenAI berhasil keluar dari lingkungan pengujian yang aman dan melancarkan serangan ke platform hosting AI, Hugging Face. Hal ini membuat OpenAI meluncurkan penyelidikan untuk mendalami bagaimana insiden tersebut bisa terjadi, dan hingga kini prosesnya masih berlangsung.
Menurut sumber yang tak ingin diungkap identitasnya, kepada Reuters, ada dugaan bahwa lebih banyak agen OpenAI yang berhasil melarikan diri dari sandbox mereka. Namun, satu sumber menyatakan bahwa keparahan insiden ini tidak begitu besar, karena para agen tersebut tampaknya tidak meninggalkan jaringan OpenAI untuk menyerang perusahaan lain. TechCrunch juga sudah mengontak OpenAI untuk mendapatkan informasi lebih lanjut.
Fenomena di mana program AI bertindak dengan cara yang aneh sepertinya sudah jadi semacam kebanggaan tersendiri bagi perusahaan-perusahaan yang bergerak di bidang teknologi ini. Pada minggu yang sama, Anthropic juga mengumumkan bahwa mereka menemukan tidak hanya satu, tetapi tiga kasus di mana agen-agen mereka berhasil keluar dari lingkungan pengujian dan menyerang organisasi lain.
Perusahaan-perusahaan AI juga dituduh memanfaatkan insiden semacam ini untuk kepentingan pemasaran — karena kejadian-kejadian tersebut berhasil menarik perhatian besar dan bisa menunjukkan betapa kuatnya produk-produk mereka. Namun, sisi negatifnya adalah pengungkapan semacam ini juga semakin menguatkan diskusi mengenai regulasi pemerintah yang bisa diimplementasikan untuk mengawasi penggunaan AI.
