xAI Gugat Pengguna Grok yang Diduga Hasilkan Konten Pornografi Anak

xAI, perusahaan kecerdasan buatan milik Elon Musk, mengajukan gugatan hukum pertama terhadap seorang pengguna platform Grok yang dituduh menghasilkan konten pornografi anak (CSAM). Langkah ini diambil setelah perusahaan tidak lagi dapat menyangkal bahwa model AI nya mampu memproduksi materi ilegal tersebut. Gugatan tersebut diajukan di tengah tekanan hukum yang juga dihadapi xAI. Perusahaan saat ini sedang digugat oleh pihak lain terkait pembuatan deepfake seksual menggunakan Grok. Situasi ini menempatkan xAI dalam posisi ganda: sebagai penggugat dan tergugat dalam kasus serupa. Menurut laporan Ars Technica dan Futurism, Grok menghadapi masalah besar terkait deepfake, termasuk konten seksual non konsensual. Langkah hukum xAI terhadap penggunanya dinilai sebagai upaya untuk menunjukkan keseriusan perusahaan dalam menangani penyalahgunaan platform.

Poin yang perlu digarisbawahi, gugatan ini muncul setelah bukti kuat menunjukkan bahwa Grok memang dapat menghasilkan CSAM, sehingga xAI tidak bisa lagi mengklaim sebaliknya. Dengan menuntut pengguna, perusahaan berusaha mengalihkan tanggung jawab hukum kepada individu, bukan pada sistem AI yang mereka kembangkan. Dari sisi implikasi industri, kasus ini menyoroti celah hukum seputar tanggung jawab platform AI generatif. Jika pengadilan memutuskan bahwa pengguna sepenuhnya bertanggung jawab, preseden ini bisa memengaruhi cara perusahaan AI lain menangani konten ilegal. Sebaliknya, jika gugatan balik terhadap xAI berhasil, perusahaan bisa dianggap lalai dalam mencegah penyalahgunaan modelnya. Hingga berita ini ditulis, belum ada pernyataan resmi dari xAI mengenai detail gugatan atau perkembangan kasus deepfake yang mereka hadapi.

Perkembangan berikutnya akan bergantung pada putusan pengadilan dan respons regulator terhadap praktik moderasi konten AI.