BERIKABARNEWS l JAKARTA – Bareskrim Polri memberikan peringatan keras terhadap maraknya penyalahgunaan kecerdasan buatan atau Artificial Intelligence (AI) untuk memodifikasi foto pribadi menjadi konten asusila. Praktik ini banyak ditemukan di media sosial X dengan memanfaatkan fitur Grok AI.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Pol. Himawan Bayu Aji, menegaskan bahwa pembuatan konten deepfake asusila merupakan tindak pidana serius dan kini masuk dalam fokus penyelidikan kepolisian.
“Perkembangan teknologi sekarang mengarah kepada AI, termasuk deepfake. Kami sedang melakukan penyelidikan ke arah sana,” ujar Himawan dalam konferensi pers di Jakarta, Rabu (7/1/2026).
Ia menjelaskan, setiap bentuk manipulasi data elektronik terhadap foto milik orang lain tanpa persetujuan pemiliknya merupakan perbuatan melawan hukum. Apabila manipulasi tersebut bertujuan untuk membuat konten cabul, pelaku dapat langsung diproses secara pidana.
“Selama bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana,” tegasnya.
Seiring berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) sejak 2 Januari 2026, pengawasan terhadap ruang digital kini semakin diperketat. Pelaku penyebaran konten pornografi berbasis deepfake dapat dijerat dengan ancaman hukuman penjara paling singkat enam bulan hingga maksimal sepuluh tahun.
Selain menyasar pelaku, pemerintah juga memberi peringatan kepada penyedia platform digital.
Kementerian Komunikasi dan Digital (Kemenkomdigi) menyatakan tidak akan ragu menjatuhkan sanksi administratif, mulai dari denda hingga pemblokiran akses platform X di Indonesia, apabila celah keamanan pada fitur Grok AI tidak segera ditutup.
Baca Juga : Kemkomdigi Tindaklanjuti Dugaan Penyalahgunaan Grok AI di Platform X
Kontroversi ini dipicu oleh fitur pengeditan gambar dan “spicy mode” pada Grok AI besutan xAI milik Elon Musk yang dinilai minim pengamanan. Fitur tersebut memungkinkan pengguna memodifikasi foto orang lain melalui perintah teks, termasuk praktik digital undressing yang melanggar privasi.
Kasus serupa tidak hanya terjadi di Indonesia. Sejumlah negara dan wilayah, seperti Uni Eropa, Prancis, India, dan Malaysia, juga mulai melakukan penyelidikan atas penyalahgunaan teknologi deepfake, termasuk yang melibatkan korban di bawah umur.
Bareskrim Polri mengimbau masyarakat yang menjadi korban manipulasi foto atau deepfake asusila untuk segera melapor melalui aparat penegak hukum atau kanal pengaduan resmi pemerintah.
“Ruang digital harus tetap aman dan menghormati hak privasi serta citra diri setiap warga negara,” tutup Himawan. *
Sumber :
TBNews
