BERIKABARNEWS l – Teknologi agen kecerdasan buatan atau AI agents menjadi perhatian Komisi Perdagangan Federal Amerika Serikat (FTC). Regulator tersebut membuka penyelidikan terhadap sejumlah perusahaan pengembang AI, termasuk OpenAI dan Anthropic, untuk mengusut potensi risiko teknologi tersebut terhadap konsumen.

Penyelidikan FTC juga mencakup kelompok riset METR. Langkah ini menjadi salah satu tindakan penegakan resmi pertama di Amerika Serikat yang secara khusus menyoroti potensi risiko dari agen AI yang dapat menjalankan tugas secara lebih mandiri.

Agen AI memiliki kemampuan menjalankan serangkaian tugas dengan tingkat otonomi lebih tinggi dibandingkan chatbot biasa. Perkembangan teknologi tersebut menjadi sorotan setelah muncul sejumlah insiden yang melibatkan agen AI dalam aktivitas siber.

Menurut laporan Reuters, seorang pejabat senior FTC mengatakan regulator akan menerbitkan permintaan informasi resmi serta meminta keterangan dari para eksekutif perusahaan yang masuk dalam penyelidikan.

OpenAI, Anthropic, dan METR termasuk pihak yang akan dimintai keterangan. Kedua perusahaan AI tersebut sebelumnya menggunakan METR untuk melakukan investigasi independen terhadap sejumlah insiden keamanan yang berkaitan dengan teknologi agen AI.

Baca Juga : 28 Tahun Google, Dari BackRub hingga Jadi Raksasa Teknologi Dunia

Ketua FTC Andrew Ferguson juga menyoroti persoalan tanggung jawab pengembang apabila agen AI yang mereka instruksikan dalam pengujian keamanan siber justru melakukan peretasan dan menimbulkan kerugian.

Menurut Ferguson, aturan yang sudah berlaku dapat digunakan untuk menindak perusahaan apabila aktivitas teknologi mereka menimbulkan kerugian, sehingga tidak selalu diperlukan undang-undang baru untuk menangani persoalan tersebut.

Salah satu peristiwa yang meningkatkan perhatian FTC adalah insiden yang melibatkan agen AI buatan OpenAI dan platform pengembangan AI Hugging Face.

Menurut laporan Reuters, agen AI tersebut sebelumnya melakukan pemindaian terhadap celah keamanan pada platform tersebut sebelum menjalankan serangan berskala besar. Peristiwa itu menjadi salah satu contoh aktivitas agen AI yang memicu perhatian terhadap kemampuan teknologi tersebut bertindak di luar batas yang diharapkan.

OpenAI kemudian melakukan peninjauan terhadap aktivitas agen-agennya. Perusahaan juga melaporkan adanya aktivitas yang perlu ditelusuri lebih lanjut dan memberi tahu pihak-pihak yang terdampak dalam sejumlah kasus.

Selain OpenAI, Anthropic juga menghadapi perhatian terhadap risiko hukum dan keamanan yang dapat muncul dari teknologi agen AI. Dalam prospektus untuk rencana penawaran sahamnya, Anthropic menyebut teknologi agentic AI dapat menimbulkan risiko hukum yang signifikan dan sulit diprediksi.

Baca Juga : OpenAI Hentikan Sementara Pelatihan Model AI Terbaru

Penyelidikan FTC berlangsung ketika pemerintah Amerika Serikat juga membahas standar keamanan bagi teknologi AI.

Presiden AS Donald Trump bertemu dengan sejumlah pimpinan perusahaan teknologi dan AI pada 29 September 2026. Dalam pertemuan tersebut, para perusahaan menyepakati standar sukarela untuk pengembangan dan penggunaan AI. Kesepakatan itu antara lain mencakup penggunaan auditor independen dan upaya memastikan sistem AI tidak melakukan peretasan atau mengakses sistem teknologi dengan cara yang tidak dimaksudkan.

Pertemuan tersebut menunjukkan adanya pembahasan antara pemerintah dan industri mengenai pengamanan teknologi AI, sementara FTC secara terpisah melakukan penyelidikan terhadap potensi risiko agen AI.

Trump juga menyatakan pemerintah dapat menggunakan aturan yang sudah ada untuk menindak perusahaan AI apabila teknologi mereka menimbulkan kerugian. Pada saat yang sama, pemerintahannya terus mendorong pengembangan teknologi AI dan posisi Amerika Serikat dalam persaingan teknologi global.

Hingga laporan ini ditulis, Anthropic, OpenAI, dan METR belum memberikan tanggapan langsung kepada Reuters mengenai penyelidikan FTC tersebut.*