BERIKABARNEWS l JAKARTA – Penyalahgunaan kecerdasan buatan (artificial intelligence/AI) untuk memanipulasi foto dan video kian marak dan dinilai mengancam keamanan digital serta martabat warga negara. Praktik tersebut bahkan disebut telah memasuki fase darurat dan membutuhkan penanganan serius dari pemerintah.
Ketua Indonesia Cyber Security Forum (ICSF), Ardi Sutedja, menilai perkembangan AI generatif membuka celah baru dalam kejahatan digital, terutama melalui manipulasi visual dan deepfake yang dapat dengan mudah disebarluaskan di media sosial.
“Foto seseorang bisa tiba-tiba muncul dalam bentuk vulgar tanpa persetujuan. Ini bukan lagi fiksi, melainkan ancaman nyata di era AI,” ujar Ardi, Minggu (11/1/2026).
Menurut Ardi, sejumlah platform AI generatif masih memiliki celah etika karena mampu memodifikasi konten visual yang berpotensi merendahkan martabat manusia. Minimnya pembatasan dan pengawasan membuat teknologi ini rawan dimanfaatkan sebagai alat pelecehan digital.
Situasi tersebut diperparah oleh rendahnya literasi keamanan digital masyarakat. Dari sekitar 212 juta pengguna internet di Indonesia, sebanyak 64 persen dinilai belum memahami risiko keamanan digital, termasuk ancaman manipulasi konten berbasis AI.
Dampak penyalahgunaan AI pun dinilai nyata, mulai dari pemerasan, perusakan reputasi, hingga gangguan psikologis pada korban. Bahkan, manipulasi terhadap tokoh publik berpotensi memicu konflik sosial dan menurunkan kepercayaan publik.
Baca Juga : Kemlu RI Tegaskan Keamanan Aset Pertamina di Venezuela
Di sisi regulasi, meski Indonesia telah memiliki Undang-Undang Perlindungan Data Pribadi (UU PDP) sejak 2022, belum rampungnya aturan turunan dinilai masih menyisakan celah dalam penegakan hukum.
“Tanpa aturan teknis yang jelas, aparat akan kesulitan menentukan tanggung jawab, apakah pada pengembang AI, pengguna, atau platform,” jelas Ardi.
ICSF mendorong pemerintah segera merampungkan regulasi pemanfaatan AI generatif, termasuk kewajiban filter konten, persetujuan pemilik data, transparansi algoritma, serta sanksi tegas bagi pelaku penyalahgunaan.
Selain regulasi, Ardi menekankan pentingnya penerapan prinsip ethics by design oleh platform teknologi serta penguatan literasi digital masyarakat sebagai benteng utama perlindungan di ruang siber. *
Sumber :
InfoPublik
