Aksi hukum baru-baru ini mengemuka dengan partisipasi seorang wanita bernama Jane Doe 4 yang bergabung dengan gugatan yang diajukan oleh tiga remaja dari Tennessee. Mereka menuntut xAI, perusahaan yang didirikan oleh Elon Musk, terkait peran chatbot Grok yang diduga digunakan untuk menciptakan materi penyalahgunaan seksual anak.
Menurut laporan dari The Washington Post, wanita tersebut mengklaim bahwa ayah tirinya menggunakan Grok untuk memanipulasi foto dirinya yang diambil saat dia berusia 11 tahun, sehingga menghasilkan lebih dari 7.000 gambar eksplisit dirinya. Tragisnya, dia juga menyebutkan bahwa ayah tirinya ditemukan meninggal karena bunuh diri dua hari setelah gambar-gambar itu terungkap dalam razia kepolisian.
“Akses yang tidak terbatas kepada alat-alat ini menyebar dengan sangat cepat,” ujarnya. “Ini mengubah kehidupan sehari-hari menjadi penyalahgunaan seksual anak.”
Tiga remaja yang mengajukan gugatan tersebut menuduh xAI, yang kini merupakan bagian dari SpaceX, gagal mengambil langkah-langkah dasar untuk mencegah Grok digunakan dalam pembuatan gambar eksplisit dari orang nyata, termasuk anak-anak. Sejak awal tahun ini, platform X dipenuhi dengan jutaan gambar seksual yang dihasilkan oleh Grok.
Para remaja ini sedang mengupayakan status tindakan class action untuk gugatan mereka.
Beberapa waktu lalu, TechCrunch menghubungi xAI untuk mendapatkan tanggapan mengenai permasalahan ini.
Jika Anda sedang dalam situasi krisis atau memiliki pemikiran untuk bunuh diri, silakan hubungi atau kirim pesan ke 988 untuk mengakses 988 Suicide and Crisis Lifeline.
