BERIKABARNEWS l – Skandal pelecehan digital berbasis kecerdasan buatan (AI) kembali mencuat setelah chatbot Grok milik platform X dilaporkan mampu memanipulasi foto pengguna menjadi gambar nyaris telanjang tanpa persetujuan. Fitur AI yang dikembangkan xAI, perusahaan milik Elon Musk, kini menuai sorotan dan kecaman global.
Kasus ini mencuat setelah pengalaman pahit dialami Julie Yukari, musisi asal Rio de Janeiro. Berawal dari unggahan foto malam tahun baru bersama kucingnya, sejumlah pengguna meminta Grok untuk “menelanjangi” fotonya secara digital. Awalnya, Yukari mengira permintaan tersebut tidak akan dipenuhi oleh sistem AI.
Namun tak lama kemudian, gambar hasil manipulasi yang menampilkan dirinya hampir tanpa busana justru beredar luas di platform X.
“Saya tidak menyangka bot akan benar-benar melakukannya,” ujar Yukari yang dilansir dari Reuters.
Fenomena manipulasi foto atau nudification ini memicu reaksi keras dari berbagai negara.
Pemerintah Prancis melaporkan X ke jaksa penuntut atas konten seksual dan seksis yang dinilai melanggar hukum. Di India, Kementerian Teknologi Informasi melayangkan peringatan resmi karena X dianggap gagal mencegah penyebaran konten cabul berbasis AI.
Sementara di Amerika Serikat, tekanan publik terhadap kebijakan keamanan xAI terus meningkat meski belum ada pernyataan resmi dari regulator.
Masalah ini dinilai semakin serius karena dampaknya meluas, termasuk risiko terhadap anak di bawah umur. Namun menanggapi laporan tersebut, xAI hanya memberikan komentar singkat yang menyebut pemberitaan media sebagai tidak benar.
Baca Juga : Prancis Laporkan AI Grok ke Jaksa Terkait Konten Seksual Ilegal
Para pakar keamanan siber menilai integrasi Grok langsung ke dalam platform X telah menurunkan batas teknis pelecehan digital. Jika sebelumnya teknologi nudifier hanya beredar di kanal tertutup, kini pengguna cukup mengunggah foto dan memberikan perintah sederhana untuk menghasilkan konten tidak senonoh dalam hitungan detik.
Peringatan soal risiko ini disebut sudah lama disampaikan. Tyler Johnston dari The Midas Project mengungkapkan bahwa xAI telah diingatkan sejak tahun lalu mengenai potensi penyalahgunaan fitur pembuatan gambar. Sementara National Center on Sexual Exploitation menilai kasus ini sebagai tragedi yang seharusnya bisa dicegah.
Bagi korban, dampaknya tidak hanya bersifat digital. Julie Yukari mengaku mengalami tekanan psikologis berat. Alih-alih mendapatkan dukungan, ia justru menghadapi serangan lanjutan dari akun-akun yang meminta Grok membuat gambar lebih eksplisit.
“Saya merasa malu atas tubuh yang bahkan bukan milik saya, karena itu dihasilkan oleh AI,” katanya.
Hingga kini, pihak X belum mengumumkan langkah konkret untuk menutup celah penyalahgunaan Grok, sementara sorotan publik dan tekanan global terhadap keamanan teknologi AI di platform tersebut terus meningkat. *
Sumber :
Reuters
