BERIKABARNEWS l KUALA LUMPUR – Pemerintah Malaysia bersiap mengambil langkah hukum terhadap platform media sosial X milik Elon Musk. Otoritas pengawas komunikasi, Malaysian Communications and Multimedia Commission (MCMC), menilai fitur kecerdasan buatan Grok berpotensi membahayakan keamanan pengguna karena disalahgunakan untuk memproduksi dan menyebarkan konten ilegal.
Pernyataan tersebut disampaikan MCMC pada Selasa (13/1/2026), menyusul meningkatnya laporan terkait penggunaan Grok untuk menghasilkan konten pornografi berbasis AI, termasuk gambar manipulatif tanpa persetujuan (non-consensual intimate images/NCII).
Menurut MCMC, teknologi generatif Grok memungkinkan pembuatan gambar seksual yang dimanipulasi secara realistis. Temuan awal menunjukkan konten tersebut meliputi pornografi, eksploitasi seksual, serta materi sensitif yang melibatkan perempuan dan anak di bawah umur.
“Konten yang diduga melibatkan perempuan dan anak di bawah umur merupakan pelanggaran serius terhadap hukum Malaysia dan komitmen keselamatan platform,” tegas MCMC dalam pernyataan resminya.
Sebagai langkah darurat, pemerintah Malaysia dan Indonesia telah memblokir sementara akses ke fitur Grok selama akhir pekan lalu. Langkah serupa juga mulai muncul di Eropa. Regulator Inggris tengah melakukan investigasi, sementara otoritas Prancis melaporkan X ke jaksa dan lembaga pengawas.
Tekanan global ini menandai meningkatnya kekhawatiran terhadap dampak AI generatif yang dinilai belum memiliki pengamanan memadai.
Baca Juga : Malaysia Bidik 4,6 Juta Wisatawan Indonesia di VM2026
Hingga kini, platform X belum memberikan pernyataan resmi. Sementara perusahaan pengembang Grok, xAI, hanya mengirimkan respons singkat melalui email otomatis berbunyi, “Legacy media lies.”
MCMC menyebut pihaknya telah mengirimkan peringatan resmi kepada X dan xAI agar segera menghapus konten bermasalah. Namun, hingga batas waktu yang diberikan, belum terlihat langkah konkret dari perusahaan.
Malaysia dikenal memiliki regulasi ketat terkait ruang digital. Konten pornografi, perjudian daring, penipuan, serta isu sensitif ras, agama, dan kerajaan (3R) termasuk pelanggaran serius.
Langkah hukum terhadap X diharapkan menjadi peringatan bagi platform global agar lebih bertanggung jawab dalam menghadirkan teknologi AI yang berdampak langsung pada keamanan, etika, dan martabat manusia. *
Sumber :
Reuters
