JBNews.id — Empat penggugat utama dalam gugatan class action federal terhadap xAI mengancam akan mundur dari proses hukum jika identitas asli mereka dipaksa dibuka ke publik. Dalam dokumen pengadilan yang diajukan pada 29 Mei, mereka mendeskripsikan tekanan psikologis berat akibat deepfake yang dibuat menggunakan Grok, chatbot milik Elon Musk.
Keempat penggugat—yang saat ini diidentifikasi sebagai South Carolina Doe, South Carolina Roe, New Jersey Doe, dan Ohio Doe—menyatakan ketakutan akan perundungan siber dan doxing jika identitas mereka terekspos. Dokumen tersebut menegaskan bahwa pemaksaan nama asli justru memperparah kerugian yang ingin mereka pulihkan melalui jalur hukum.
“Setelah menelanjangi mereka secara visual, xAI kini berusaha menelanjangi identitas hukum para penggugat,” tulis Sophia Rios, kuasa hukum dari firma Berger Montague, dalam dokumen terbaru. “Ini adalah upaya intimidasi agar mereka menghentikan litigasi.”
Kronologi Kasus Deepfake Grok
Gugatan class action terhadap xAI pertama kali diajukan pada Januari dengan satu penggugat utama beridentitas samaran. Hakim di Pengadilan Distrik AS untuk Distrik Utara California menyetujui penggunaan nama samaran dalam kasus tersebut. Pada awal Mei, gugatan diperbarui dengan empat penggugat utama, di mana Jane Doe awal berubah menjadi South Carolina Doe.
Sepanjang Januari, penggunaan Grok memicu kemarahan global. Ratusan pria menggunakan sistem AI generatif milik Musk untuk membuat gambar palsu perempuan “telanjang” dan berbikini. Gambar-gambar itu diunggah di X dan mencakup konten seksual yang melibatkan anak-anak.
Analisis dari Center for Countering Digital Hate mengklaim Grok digunakan untuk menciptakan sekitar 3 juta gambar seksual hanya dalam 11 hari, dengan 23.000 di antaranya berpotensi melibatkan anak-anak. Menghadapi gelombang gugatan dan regulasi global, SpaceX—yang kini memiliki xAI—telah menyisihkan lebih dari US$500 juta untuk menangani dampak hukum tersebut.
Argumen Hukum xAI
Pada pertengahan Mei, xAI mengajukan dua mosi ke pengadilan federal di California utara yang meminta hakim membatalkan putusan penggunaan nama samaran. Dokumen tersebut menyatakan bahwa hukum perdata umumnya mewajibkan penyebutan nama seluruh pihak yang terlibat dalam kasus, kecuali ada pengecualian tertentu.
Pengacara xAI berargumen bahwa nama asli harus digunakan karena ada kepentingan publik terhadap identitas mereka yang menggugat perusahaan. Mereka juga mengklaim tidak ada bukti spesifik soal ancaman atau kerugian lebih lanjut terhadap individu dalam kasus ini. Selain itu, karena gambar deepfake tidak akan dipublikasikan sebagai bagian dari gugatan, hal itu seharusnya mengatasi masalah privasi.
“Jika gambar deepfake itu sendiri dikecualikan—karena tetap akan disegel—tidak ada hal yang secara inheren stigmatis tentang mengungkap fakta bahwa gambar deepfake dibuat terhadap South Carolina Doe tanpa mengungkap gambar itu sendiri,” tulis pengacara xAI dalam mosi 15 Mei. “Akibatnya, kasus ini tidak melibatkan kepentingan privasi yang lazim diakui sebagai alasan penggunaan nama samaran.”
Baik xAI maupun pengacara yang mewakili perusahaan tidak menanggapi permintaan komentar WIRED tentang kasus ini.
Dampak Pemaksaan Identitas
Danielle Citron, profesor hukum di University of Virginia School of Law yang mengkhususkan diri dalam penanganan penyalahgunaan digital, mengatakan bahwa kasus perdata di mana orang dipaksa menggugat menggunakan nama asli dapat menyebabkan gugatan dihentikan. Situasi ini menurutnya “tidak bisa diterima dan tidak adil.”
“Memaksa penggugat dalam kasus privasi untuk menggugat dengan nama asli hanya memberikan sedikit manfaat bagi transparansi peradilan, namun sangat besar dampaknya dalam menghalangi litigasi,” kata Citron kepada WIRED.
Keempat penggugat dalam kasus ini, berdasarkan dokumen hukum 29 Mei, akan mempertimbangkan mundur dari proses jika nama mereka harus diungkap. Dalam dokumen terbaru, pengacara penggugat menyatakan bahwa permintaan xAI harus ditolak karena kasus ini menyangkut “deepfake yang sangat pribadi dan memalukan yang menggambarkan Penggugat dan disebarluaskan tanpa persetujuan mereka.”
Kesaksian Korban Deepfake
South Carolina Doe mendeskripsikan bagaimana deepfake dirinya yang “diturunkan pakaiannya hingga hanya mengenakan bikini yang memperlihatkan” ditemukan secara daring. Ia mengaku khawatir dengan apa yang akan dipikirkan atasan atau kolega jika melihat gambar tersebut, dan takut menjadi sasaran perundungan lebih lanjut.
“Saya juga diliputi rasa jijik membayangkan apa yang dilakukan individu yang meminta Grok membuat deepfake itu dengan foto saya,” tulisnya dalam dokumen pengadilan.
“Jika saya dipaksa mengungkap nama saya secara publik sebagai bagian dari kasus ini, saya takut mereka yang mendukung Elon Musk, perusahaannya, dan Grok—yang saya amati sangat vokal di dunia maya—akan menemukan nama saya dalam catatan publik, menyebarkannya, melakukan doxing, dan membalas dengan membuat deepfake yang lebih ekstrem dari diri saya,” lanjut pernyataan tersebut.
Pernyataan serupa dari korban deepfake lainnya menggambarkan mereka mengalami “tekanan emosional berat,” rasa malu, dan keterkejutan saat melihat gambar yang dibuat tanpa persetujuan mereka. Secara umum, korban penyalahgunaan deepfake seksual dan citra nonkonsensual lainnya menggambarkan perasaan serupa.
Seorang pria yang diidentifikasi sebagai New Jersey Doe dalam gugatan mengatakan ia melihat orang-orang di X menggunakan Grok untuk membuat gambar seksual dan mengirim permintaan agar “Grok tidak membuat gambar saya tanpa persetujuan saya.” Keesokan harinya, menurut catatan pengadilan, ia menemukan dua gambar deepfake dirinya, termasuk satu yang menggambarkannya dalam pose vulgar.
Ia meyakini bahwa pesan yang meminta Grok tidak membuat deepfake justru “menarik perhatian troll daring yang menggunakan Grok untuk melecehkan dan menyebabkan tekanan.”
South Carolina Roe mengklaim bahwa Grok digunakan untuk membuat gambar eksplisit dirinya saat masih anak-anak. Dokumen pengadilan menyebutkan bahwa pada Februari, polisi menggeledah rumah South Carolina Roe yang ia tinggali bersama ibu dan ayahnya.
“Saya mengetahui dari aparat penegak hukum bahwa ayah saya menghadapi tuntutan pidana terkait kepemilikan dan distribusi CSAM (Child Sexual Abuse Material),” demikian isi dokumen. “Saya mengetahui bahwa Grok mengubah beberapa gambar yang menggambarkan saya di tempat tidur bersama ayah saya. Grok mengubah gambar tersebut agar tampak seolah-olah kami baru saja melakukan hubungan seksual,” tulis dokumen tersebut, seraya menambahkan bahwa individu tersebut belum melihat gambar-gambar itu sendiri.
Pernyataan hukum South Carolina Roe menggambarkan dirinya “terpukul” karena tidak memiliki kendali atas deepfake tersebut dan khawatir gambar-gambar itu dapat disebarluaskan oleh predator daring. “Mengidentifikasi saya secara publik akan menyebabkan kerugian yang tak terkira,” demikian pernyataan dalam dokumen pengadilan.
Kasus ini menjadi ujian penting bagi perlindungan korban deepfake di era AI generatif. Jika pengadilan memenangkan argumen xAI, para korban penyalahgunaan teknologi serupa mungkin enggan melapor ke pengadilan karena risiko eksposur identitas yang justru memperparah trauma awal.