Kepala Kejaksaan Negeri Florida, James Uthmeier, mengumumkan pada hari Kamis bahwa kantornya akan menyelidiki OpenAI karena diduga merugikan anak-anak, berpotensi mengancam keamanan nasional, serta kemungkinan terkait dengan penembakan yang terjadi di Florida State University (FSU) tahun lalu.
“ChatGPT kemungkinan besar telah digunakan untuk membantu pelaku dalam penembakan massal di Florida State University yang tragisnya merenggut dua nyawa,” ungkap Uthmeier dalam video yang diunggah di media sosial.
Pada hari penembakan di FSU pada bulan April lalu, pelaku diduga bertanya kepada ChatGPT bagaimana reaksi masyarakat terhadap penembakan di FSU, dan jam berapa saat paling ramai di union mahasiswa FSU. Pesan-pesan ini bisa digunakan sebagai bukti melawan pelaku dalam persidangan pada bulan Oktober mengenai insiden tersebut.
Uthmeier juga mengemukakan kekhawatirannya terkait ChatGPT yang mendorong tindakan bunuh diri dalam beberapa kasus, yang sudah didokumentasikan dalam beberapa tuntutan hukum yang diajukan oleh keluarga terhadap OpenAI. Dia juga menekankan kekhawatirannya bahwa Partai Komunis China bisa memanfaatkan teknologi OpenAI untuk melawan Amerika Serikat.
“Saat perusahaan teknologi besar memperkenalkan teknologi ini, mereka tidak seharusnya — tidak bisa — membahayakan keselamatan dan keamanan kita,” tegasnya. “Kami mendukung inovasi, tetapi itu tidak memberi hak kepada perusahaan mana pun untuk membahayakan anak-anak kita, memfasilitasi kegiatan kriminal, memberdayakan musuh Amerika, atau mengancam keamanan nasional kita.”
Uthmeier juga meminta legislatif Florida untuk “bekerja cepat” dalam melindungi anak-anak dari dampak negatif AI.
Seorang juru bicara OpenAI menyatakan, “Setiap minggu, lebih dari 900 juta orang menggunakan ChatGPT untuk meningkatkan kualitas hidup sehari-hari mereka melalui berbagai penggunaan, seperti mempelajari keterampilan baru atau menjelajahi sistem kesehatan yang kompleks. Upaya keselamatan kami yang terus berlanjut sangat penting dalam memberikan manfaat ini kepada masyarakat, sekaligus mendukung penelitian dan penemuan ilmiah.”
OpenAI menambahkan bahwa mereka terus membangun dan meningkatkan ChatGPT agar dapat memahami niat pengguna dan memberikan respons yang sesuai dan aman. Perusahaan ini juga menyatakan akan berkooperasi dengan penyelidikan yang dilakukan oleh jaksa agung Florida.
Pada hari Rabu, OpenAI meluncurkan Child Safety Blueprint, yang mencakup rekomendasi kebijakan yang dirancang untuk meningkatkan keselamatan anak terkait dengan AI.
Aksi ini muncul seiring tekanan yang dihadapi oleh pembuat chatbot untuk menghadapi peran potensial mereka dalam menciptakan materi penyalahgunaan seksual anak (CSAM). Menurut laporan terbaru dari Internet Watch Foundation, terdapat lebih dari 8,000 laporan CSAM yang dihasilkan oleh AI dalam paruh pertama tahun 2025, yang menunjukkan peningkatan sebesar 14% dari tahun ke tahun.
Blueprint OpenAI merekomendasikan pembaruan legislatif untuk melindungi terhadap materi penyalahgunaan yang dihasilkan oleh AI, memperhalus proses pelaporan kepada penegak hukum, dan menerapkan langkah-langkah pencegahan yang lebih baik terhadap penggunaan alat AI yang menyimpang.
