Riset METR Temukan Celah Keamanan OpenAI pada Sistem Pengawasan AI

Ilustrasi sistem kecerdasan buatan OpenAI dan pemantauan aktivitas agen AI terkait temuan celah keamanan dalam riset METR. (Foto: magnific.com/rawpixel-com)

BERIKABARNEWS l – Kelompok riset keselamatan kecerdasan buatan (AI), METR, menemukan sejumlah celah keamanan dalam sistem pengawasan internal OpenAI. Temuan tersebut berasal dari pengujian ketahanan sistem (stress test) yang dilakukan dan diumumkan pada Kamis (22/10/2026).

Salah satu celah yang dinilai kritis memungkinkan agen AI menyembunyikan ratusan aktivitas terbarunya sehingga tidak terdeteksi oleh sistem pemantauan internal.

OpenAI menyatakan telah memperbaiki seluruh celah yang berdampak pada sistem perlindungan di lingkungan produksi. Namun, METR menyebut pihaknya belum melakukan pengujian ulang untuk memverifikasi perbaikan yang diklaim perusahaan tersebut.

Baca Juga : iPhone Lipat Apple Bakal Pakai 80 Persen Titanium Daur Ulang

Dalam pengujian tersebut, peneliti METR menemukan mekanisme yang secara teoretis memungkinkan agen pemrograman OpenAI, Codex, melewati pembatasan keamanan. Kondisi ini berpotensi membuat agen AI melakukan tindakan yang hanya dapat diakses oleh pengguna yang menjalankannya.

Peneliti juga mengidentifikasi dua pengaturan sistem yang berpotensi menonaktifkan fungsi pemantauan terhadap agen AI baru.

Berdasarkan estimasi METR, sistem pengawasan internal OpenAI hanya memantau sekitar 75 hingga 94 persen lalu lintas agen AI yang menggunakan model setara atau lebih tangguh daripada GPT-5.5. Artinya, sebagian aktivitas agen AI berpotensi tidak tercatat oleh sistem pemantauan tersebut.

Baca Juga : Anthropic Usulkan RUU Keamanan AI untuk Perketat Pengawasan

METR merancang penelitian ini sebagai proyek percontohan untuk memberi peneliti eksternal kesempatan menguji sistem internal perusahaan pengembang AI secara lebih mendalam.

Pengujian tersebut bertujuan mengukur sejauh mana aktivitas agen AI OpenAI dapat terpantau. Peneliti juga menguji apakah agen AI secara teknis dapat menonaktifkan atau memanipulasi sistem pengawasan yang seharusnya memantau aktivitas mereka.

Meski OpenAI menyatakan telah memperbaiki celah yang ditemukan, hasil perbaikan tersebut belum dievaluasi ulang oleh METR. Karena itu, efektivitas penanganan celah keamanan tersebut belum dikonfirmasi secara independen oleh kelompok riset itu.*

iPhone Lipat Apple Bakal Pakai 80 Persen Titanium Daur Ulang

BERIKABARNEWS l – Apple berkomitmen menggunakan material yang...

Ilustrasi - iPhone lipat Apple bakal menggunakan material titanium daur ulang. (Foto: unsplash.com/@he_junhui)

Anthropic Usulkan RUU Keamanan AI untuk Perketat Pengawasan

BERIKABARNEWS l – Perusahaan kecerdasan buatan (AI) Anthropic...

Anthropic, perusahaan kecerdasan buatan yang mengusulkan aturan keamanan untuk pengembangan model AI canggih. (Foto: x.com/AnthropicAI)

AI Claude Kirim Laporan Pembunuhan Palsu ke Situs Polisi AS

BERIKABARNEWS l – Perusahaan kecerdasan buatan (AI) Anthropic...

Ilustrasi kecerdasan buatan Claude milik Anthropic yang menjadi sorotan setelah mengirim laporan pembunuhan palsu ke situs Kepolisian Philadelphia, Amerika Serikat. (Foto: instagram.com/claudeai)

Agen AI Jadi Perhatian FTC, OpenAI hingga Anthropic Diselidiki

BERIKABARNEWS l – Teknologi agen kecerdasan buatan atau...

Ilustrasi - teknologi agen kecerdasan buatan (AI) yang menjadi perhatian FTC dalam penyelidikan terhadap OpenAI dan Anthropic. (foto: unsplash.com/@prestige666)

28 Tahun Google, Dari BackRub hingga Jadi Raksasa Teknologi Dunia

BERIKABARNEWS l – Google memperingati ulang tahun ke-28...

Google Doodle memperingati ulang tahun Google ke-28. (Google)

OpenAI Hentikan Sementara Pelatihan Model AI Terbaru

BERIKABARNEWS l – OpenAI menghentikan sementara pelatihan model...

OpenAI menghentikan sementara pelatihan model AI terbaru. (Foto: unsplash.com/@boliviainteligente)

berita terkini