Ibu dari Anak Elon Musk Gugat xAI Usai Grok Buat Foto Telanjang Palsu

Jakarta, CNN Indonesia --

Ashley St. Clair, ibu dari salah satu anak Elon Musk, menggugat perusahaan kecerdasan buatan xAI. Gugatan tersebut diajukan setelah St. Clair mengaku menjadi korban hasil manipulasi foto chatbot Grok tanpa persetujuannya.

Dalam dokumen gugatan yang diajukan di New York, St. Clair menyebut produk xAI, Grok, digunakan untuk "menelanjangi, mempermalukan, dan mengeksploitasi korban secara seksual" melalui teknologi kecerdasan buatan.

Melansir CNN pada Jumat (16/1), gugatan itu muncul setelah xAI mengonfirmasi bahwa chatbot Grok tidak lagi mengedit gambar orang sungguhan dengan pakaian minim di platform media sosial X milik Elon Musk.

Kebijakan tersebut diterapkan menyusul gelombang kritik setelah Grok diketahui memenuhi permintaan pengguna untuk membuat gambar telanjang palsu atau deepfake orang dewasa, dan dalam sejumlah kasus, anak-anak.

Dalam gugatannya, Ia juga menuduh bahwa Grok telah menghasilkan dan menyebarkan konten deepfake yang bersifat seksual, intim, dan merendahkan dalam jumlah besar atas permintaan pengguna. Hal itu disebut tetap terjadi meski St. Clair telah menyampaikan secara terbuka bahwa dirinya tidak memberikan persetujuan untuk dimanipulasi secara digital.

Dalam salah satu kasus yang dicantumkan dalam gugatan, pengguna X diduga menemukan foto St. Clair saat berusia 14 tahun dan masih berpakaian lengkap, lalu meminta Grok untuk menelanjanginya. Menurut gugatan tersebut, permintaan itu dipenuhi oleh chatbot.

Hingga berita ini diturunkan, xAI belum memberikan tanggapan atas permintaan komentar.

Melalui gugatan tersebut, St. Clair menuntut persidangan dengan juri serta kompensasi atas dugaan tekanan emosional dan hilangnya privasi.

St. Clair dan Musk sebelumnya diketahui beberapa kali berselisih secara terbuka. Awal pekan ini, Musk menulis di X bahwa ia berencana mengajukan permohonan hak asuh penuh atas anak mereka.

Pada Rabu, St. Clair juga tampil dalam program CNN's Erin Burnett Out Front untuk membahas dugaan pembuatan konten deepfake seksual oleh Grok yang menargetkan dirinya. Ia menyebut belum ada langkah efektif untuk menghentikan praktik tersebut secara luas.

Klaim sudah diperbaiki

X menyatakan chatbot Grok AI tidak akan lagi bisa memanipulasi konten pengguna untuk membuat foto cabul.

"Kami telah menerapkan langkah-langkah teknis untuk mencegah akun Grok mengizinkan pengeditan gambar orang sungguhan yang mengenakan pakaian terbuka seperti bikini. Pembatasan ini berlaku untuk semua pengguna, termasuk langganan berbayar," tulis X melalui akun Tim Keamanan mereka pada Kamis (15/1).

Sebelumnya, Grok AI mendapat kritik keras karena menghasilkan dan mempublikasikan gambar seksual yang dibuat melalui permintaan pengguna di platform X, termasuk gambar yang menampilkan perempuan dan bahkan anak-anak dalam pakaian minim atau keadaan sugestif.

Dalam seminggu terakhir, xAi, yang memiliki Grok dan X, telah membatasi pembuatan gambar untuk Grok di X hanya untuk langganan premium X.

Para peneliti dan tim CNN mengamati bahwa dalam beberapa hari terakhir, akun Grok di X telah mengubah cara responsnya terhadap permintaan pembuatan gambar pengguna, bahkan untuk mereka yang berlangganan X premium. Unggahan X terbaru tampaknya mengonfirmasi perubahan tersebut.

Namun, peneliti di AI Forensics, sebuah organisasi nirlaba Eropa yang berfokus di algoritma, mengatakan mereka mengamati "ketidakkonsistenan dalam penanganan pembuatan konten pornografi" antara interaksi publik dengan Grok di X dan obrolan pribadi di Grok.com.

X juga menegaskan bahwa mereka "mengambil tindakan terhadap konten ilegal di X, termasuk Materi Penyalahgunaan Seksual Anak (CSAM), dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah setempat dan penegak hukum sesuai kebutuhan."

"Siapa pun yang menggunakan atau memerintahkan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seolah-olah mereka mengunggah konten ilegal," kata X, dikutip dari CNN.

(dmi/dmi)

[Gambas:Video CNN]