BERIKABARNEWS l JAKARTA – Kementerian Komunikasi dan Digital (Kemkomdigi) secara resmi menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X. Langkah ini diambil setelah ditemukan indikasi pemanfaatan teknologi tersebut untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi sensitif tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital (Dirjen Wasdag) Kemkomdigi, Alexander Sabar, mengungkapkan bahwa hasil penelusuran awal menunjukkan adanya celah dalam sistem Grok AI yang berpotensi disalahgunakan.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi. Hal ini berisiko melanggar hak privasi dan hak citra diri warga Indonesia,” ujar Alexander di Jakarta, Rabu (7/1/2026).
Alexander menegaskan bahwa manipulasi digital terhadap foto pribadi, termasuk praktik deepfake asusila, bukan sekadar pelanggaran norma kesusilaan. Menurutnya, tindakan tersebut merupakan bentuk perampasan kendali individu atas identitas visualnya, yang dapat berdampak serius pada kondisi psikologis korban, menimbulkan sanksi sosial, hingga merusak reputasi secara permanen.
Sebagai langkah pencegahan, Kemkomdigi saat ini tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan penerapan mekanisme perlindungan yang lebih ketat.
Upaya tersebut mencakup penguatan sistem moderasi konten, pencegahan otomatis terhadap pembuatan deepfake asusila, serta penyediaan prosedur penanganan cepat atas laporan pelanggaran privasi.
Sanksi Berat Menanti: Dari Denda hingga Pemutusan Akses
Kemkomdigi juga menegaskan bahwa seluruh PSE yang beroperasi di Indonesia wajib mematuhi ketentuan hukum yang berlaku. Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, pemerintah tidak akan ragu menjatuhkan sanksi administratif, termasuk kemungkinan pemutusan akses layanan Grok AI dan platform X di Indonesia.
Tak hanya penyedia layanan, pengguna yang terbukti memproduksi dan menyebarkan konten pornografi hasil manipulasi digital juga terancam sanksi pidana.
Berdasarkan Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang mulai berlaku sejak 2 Januari 2026, perbuatan tersebut dapat dijerat dengan ancaman pidana penjara mulai dari enam bulan hingga sepuluh tahun, serta denda dengan nilai yang signifikan.
Baca Juga : BNPT Perketat Pengawasan Game Online, Roblox Jadi Sorotan
Mengenal Grok AI
Grok AI sendiri merupakan asisten kecerdasan buatan besutan perusahaan xAI milik Elon Musk. Teknologi ini dikenal luas karena kemampuannya memberikan respons secara real-time dengan akses langsung ke data publik di platform X.
Sejak peluncuran Grok 4 pada akhir 2025, sistem ini berkembang menjadi teknologi multimodal yang mampu mengolah teks, gambar, hingga video. Namun, kecanggihan tersebut dinilai rawan disalahgunakan apabila tidak diimbangi dengan pengamanan yang memadai.
Kemkomdigi mengimbau masyarakat yang menjadi korban manipulasi foto atau deepfake asusila untuk segera melapor melalui aparat penegak hukum maupun kanal pengaduan resmi Kemkomdigi.
“Ruang digital bukan ruang tanpa hukum. Kami meminta semua pihak menggunakan teknologi kecerdasan buatan secara bertanggung jawab. Privasi dan martabat setiap warga harus dihormati,” tutup Alexander. *
Sumber :
InfoPublik.id
