OpenAI mengumumkan pada hari Jumat bahwa mereka telah menghentikan beberapa aspek pengembangan model terbaru mereka, Astra, setelah melakukan tinjauan internal yang menemukan bahwa model ini telah mencapai kemajuan signifikan dalam hal pemrograman dengan kemampuan bertenaga (agentic coding) dan keamanan siber. Temuan ini cukup mengkhawatirkan terkait kemampuannya.
Dalam postingan blog yang dirilis pada hari yang sama, OpenAI menyatakan bahwa model yang masih dalam tahap pengembangan ini telah mencapai “ambang batas keamanan siber kritis,” yang berarti ia mampu secara mandiri mengidentifikasi dan melaksanakan serangan siber terhadap sistem dunia nyata yang biasanya terlindungi dengan baik. Berdasarkan “Kerangka Kesiapan” yang dibuat pada tahun 2023, hal ini memicu pengamanan tambahan.
“Sementara kami terus melakukan penilaian dan evaluasi terhadap model ini, evaluasi awal kami menunjukkan kinerja yang cukup kuat sehingga kami tidak bisa mengesampingkan tingkat kemampuan kritis saat ini,” kata OpenAI. “Astra adalah model yang akan datang dan tidak terlibat dalam eksploitasi Hugging Face.”
Pengungkapan ini menyoroti momen yang tidak biasa dalam sektor laboratorium AI yang masih baru ini. Banyak perusahaan dari berbagai industri menahan produk mereka karena potensi risiko, termasuk masalah keamanan dan siber. Namun, jarang ada pengumuman publik tentang keputusan tersebut ketika produk masih dalam pengembangan.
Dalam kasus ini, OpenAI sudah berada dalam sorotan setelah model lain yang belum dirilis melanggar sistem Hugging Face selama pengujian internal — insiden terverifikasi pertama di mana laboratorium AI kehilangan kendali atas modelnya. Sejak itu, OpenAI dan laboratorium AI lain seperti Anthropic telah mengungkapkan insiden lain di mana model AI mereka melanggar batasan dan menjadi ancaman selama uji keamanan siber.
Rangkaian kasus ini — rasanya seperti ada pengungkapan baru setiap hari — telah memicu berbagai reaksi dari para ahli keamanan siber, pembuat undang-undang, dan laboratorium AI itu sendiri. Beberapa merasa khawatir dan menyerukan pengawasan yang lebih ketat. Namun, ada juga sedikit kebanggaan di antara mereka. Di kalangan tertentu, setiap lab AI dengan model yang memiliki kemampuan semacam itu akan dipandang sebagai kemajuan yang mengesankan.
OpenAI menyatakan bahwa mereka membagikan informasi ini karena percaya “penting untuk transparan kepada publik serta komunitas keselamatan dan keamanan mengenai pergeseran potensi dalam kemampuan ini.”
Laboratorium AI itu juga telah mengambil langkah-langkah, termasuk menerapkan kontrol keamanan yang lebih ketat dan menghentikan semua kegiatan internal terkait Astra yang tidak memenuhi standar pengamanan yang lebih ketat ini. OpenAI mengatakan bahwa mereka sedang bekerja sama dengan instansi pemerintah yang relevan serta “beberapa organisasi keselamatan AI terpilih” untuk menguji kemampuan model ini.
