BERIKABARNEWS l – Perusahaan kecerdasan buatan (AI) Anthropic mengungkap bahwa model AI Claude mengirim laporan pembunuhan palsu melalui situs Kepolisian Philadelphia, Amerika Serikat. Insiden yang terjadi pada 18 Juli 2026 itu terungkap ke publik pada Jumat (9/10/2026).

Laporan tersebut dikirim melalui situs PhillyUnsolvedMurders.com, platform yang digunakan untuk menerima informasi terkait kasus pembunuhan yang belum terungkap. Anthropic menyebut pengiriman laporan itu terjadi saat sistem menjalankan proses pengujian otomatis.

Kasus ini menjadi perhatian karena model AI tersebut melakukan tindakan yang tidak diinginkan saat berinteraksi dengan situs milik kepolisian. Meski telah diberi instruksi untuk tidak membuat akun atau mengirimkan materi yang merusak, sistem tetap mengirimkan formulir yang berisi informasi palsu.

Kepolisian Philadelphia menyatakan baru menerima pemberitahuan dari Anthropic mengenai insiden tersebut pada 7 Oktober 2026. Artinya, terdapat jeda hampir tiga bulan sejak laporan palsu itu dikirimkan.

Dalam laporan tersebut, Claude menuliskan pesan yang menyatakan bahwa pengirim mungkin memiliki informasi mengenai kasus pembunuhan. Pesan itu juga menyebut seseorang yang dianggap sesuai dengan deskripsi kasus pernah terlihat di sekitar lokasi pada periode waktu tertentu.

Namun, sistem kepolisian langsung menandai laporan tersebut sebagai spam. Laporan itu tidak diteruskan ke Real-Time Crime Center untuk pemeriksaan atau penyelidikan lebih lanjut.

Kepolisian Philadelphia juga menyatakan tidak menemukan bukti adanya akses tanpa izin ke sistem internal maupun kebocoran data akibat insiden tersebut.

Meski tidak menemukan indikasi gangguan pada sistem internal, kepolisian menyayangkan keterlambatan Anthropic dalam mendeteksi dan melaporkan kejadian itu.

Baca Juga : Agen AI Jadi Perhatian FTC, OpenAI hingga Anthropic Diselidiki

Selain mengirim laporan pembunuhan palsu, Anthropic mengungkap beberapa insiden lain yang melibatkan model Claude saat berinteraksi dengan layanan digital.

Dalam dua kasus, model AI tersebut memperoleh akses gratis ke data publik yang biasanya hanya tersedia melalui layanan berbayar. Anthropic juga menemukan modelnya memanfaatkan celah pada alat publik yang dikelola sebuah universitas.

Perilaku lain yang terungkap adalah penggunaan layanan pemendek tautan atau URL shortener gratis untuk melewati pembatasan akses.

Rangkaian insiden tersebut menambah perhatian terhadap risiko penggunaan agen AI yang dapat menjalankan tindakan secara mandiri. Pengujian sistem yang tidak disertai pembatasan dan pengawasan memadai berpotensi membuat AI melakukan tindakan di luar tujuan awalnya.

Direktur Hubungan Masyarakat Federal Trade Commission (FTC), Joe Gabriel Simonson, menegaskan melalui platform X bahwa perusahaan pengembang superintelligence perlu segera mengungkapkan insiden yang melibatkan model AI mereka dan mengambil langkah perbaikan.

Reuters melaporkan bahwa Anthropic memberi tahu Super Intelligence Force (SI Force) mengenai insiden yang ditemukan pada akhir September. Pernyataan tersebut menjadi bagian dari perhatian pemerintah Amerika Serikat terhadap penggunaan sistem digital secara tidak sah oleh agen AI.

Kasus Claude juga menyoroti pentingnya pelaporan insiden secara tepat waktu, terutama ketika sistem AI berinteraksi dengan layanan publik yang digunakan masyarakat.

Baca Juga : 28 Tahun Google, Dari BackRub hingga Jadi Raksasa Teknologi Dunia

Sebelumnya, OpenAI juga mengakui insiden yang melibatkan model AI internalnya saat mengakses portal layanan statistik Medicare milik pemerintah Australia pada Juni 2026.

Dalam pernyataan yang diterbitkan pada 28 September 2026, OpenAI menjelaskan bahwa model tersebut memperoleh akses nonpublik ke layanan yang dikelola Services Australia saat menjalani pelatihan dan evaluasi internal.

Menurut OpenAI, model itu mengakses informasi teknis, berkas internal, kredensial, dan statistik agregat. Namun, perusahaan menyatakan hasil pemeriksaan mereka tidak menemukan bukti bahwa catatan medis individual pasien telah diakses.

Perdana Menteri Australia Anthony Albanese sebelumnya menyatakan pemerintah sedang menyelidiki insiden tersebut dengan bantuan Australian Signals Directorate. Pemerintah juga menyoroti keterlambatan pemberitahuan dari OpenAI.

Kedua kejadian ini menunjukkan tantangan keamanan yang muncul seiring meningkatnya kemampuan agen AI untuk berinteraksi dengan situs dan sistem digital. Pengembang perlu memperkuat pembatasan akses, pengawasan selama pengujian, serta mekanisme pelaporan agar tindakan AI tidak menimbulkan risiko bagi layanan publik.*