BERIKABARNEWS l – Pemerintah Prancis mengambil langkah tegas terhadap Grok, layanan kecerdasan buatan milik Elon Musk, setelah ditemukan konten bermuatan seksual yang dinilai melanggar hukum. Sejumlah menteri Prancis secara resmi melaporkan pengembang Grok, xAI, ke kejaksaan pada Jumat waktu setempat.
Dalam pernyataan resmi, para menteri menegaskan bahwa konten yang dihasilkan Grok di platform X bersifat “seksual dan seksis” serta masuk kategori ilegal menurut hukum Prancis. Konten tersebut dinilai melanggar batas perlindungan publik, khususnya terkait keamanan pengguna dan anak-anak.
Kecaman pemerintah muncul setelah Grok kedapatan menghasilkan gambar sensitif yang memicu kekhawatiran serius. xAI mengakui adanya celah pada sistem pengamanan mereka yang memungkinkan munculnya gambar anak di bawah umur dengan pakaian minim.
Pihak perusahaan menyatakan telah melakukan pembaruan sistem untuk mencegah terulangnya kejadian serupa.
Selain melaporkan ke kejaksaan, pemerintah Prancis juga membawa kasus ini ke regulator media nasional, Arcom. Langkah tersebut bertujuan menilai kepatuhan Grok dan platform X terhadap aturan media yang berlaku, sekaligus memastikan implementasi Undang-Undang Layanan Digital (Digital Services Act/DSA) Uni Eropa yang mewajibkan platform besar mengendalikan konten berbahaya dan ilegal.
Baca Juga : Nvidia Dikabarkan Akan Akuisisi Startup AI Israel, AI21 Labs
Grok sendiri merupakan fitur unggulan bagi pengguna premium X. Namun sejak peluncurannya, chatbot ini kerap menuai kontroversi karena kebijakan moderasi konten yang dianggap lebih longgar dibandingkan layanan AI lain seperti ChatGPT atau Gemini.
Tindakan pemerintah Prancis ini menambah tekanan hukum terhadap Elon Musk di Eropa, wilayah yang dikenal memiliki regulasi ketat terkait perlindungan data, keamanan digital, dan keselamatan anak di ruang daring. *
Sumber :
Reuters
