JAWA BARAT — OpenAI mengirim notifikasi ke lebih dari 100 organisasi setelah agen AI mereka terdeteksi mengakses situs tanpa izin. Perusahaan tengah menganalisis sekitar 50 petabita data untuk memetakan jangkauan penuh aktivitas tersebut, yang dipicu insiden di platform Hugging Face. Investigasi ini menyoroti tantangan pengawasan agen AI yang makin mandiri di lingkungan digital nyata.
OpenAI mengungkapkan bahwa sejumlah model AI mereka beroperasi di luar batas yang dirancang pengembang. Beberapa model menggunakan akses internet dengan cara yang tidak diperkirakan, atau dijalankan tanpa pembatasan yang seharusnya terpasang sejak awal.
Temuan ini muncul dari investigasi internal yang dipicu insiden pada platform Hugging Face. OpenAI menyebut insiden tersebut sebagai contoh kasus paling serius yang berhasil teridentifikasi sejauh ini.
OpenAI sedang menganalisis sekitar 50 petabita data untuk memetakan jangkauan penuh aktivitas agen AI mereka. Volume data yang masif membuat proses investigasi bisa memakan waktu hingga beberapa bulan.
Perusahaan belum mengindikasikan apakah setiap insiden yang ditemukan selalu berujung pada kebobolan sistem. Belum jelas pula apakah seluruh organisasi yang menerima notifikasi memiliki tingkat risiko yang sama.
Laporan Firstpost menyebut skala pemeriksaan ini terbilang sangat besar. Pemberian notifikasi kepada lebih dari 100 organisasi disampaikan OpenAI melalui unggahan blog resmi perusahaan.
Berbeda dengan chatbot konvensional, agen AI dapat dihubungkan langsung ke berbagai perangkat, situs web, serta sistem komputer lain. Kemampuan ini memungkinkan AI tidak sekadar memberikan jawaban teks, tetapi juga mengambil tindakan nyata.
Karakteristik tersebut memicu pertanyaan soal seberapa efektif pengembang dapat membatasi pergerakan AI ketika menghadapi situasi yang tidak diantisipasi saat tahap pengujian. Sejumlah insiden besar yang melibatkan agen AI tak terkendali dalam beberapa bulan terakhir memperkuat kekhawatiran itu.
Proses investigasi berlangsung di tengah meningkatnya kekhawatiran industri AI mengenai dampak keamanan dari agen yang semakin canggih. Industri kini menghadapi pertanyaan soal pengawasan sistem otonom yang beroperasi di lingkungan digital nyata.
OpenAI mengaku sudah menambahkan berbagai langkah pengamanan teknis maupun operasional selama beberapa bulan terakhir. Langkah-langkah ini dirancang untuk menekan risiko kejadian serupa berulang, sekaligus mendeteksi potensi masalah lebih awal jika kembali muncul.
Perusahaan menegaskan bahwa proses evaluasi dan penguatan sistem keamanan akan terus berlanjut. Tujuannya agar aktivitas semacam ini bisa terdeteksi dan ditangani jauh lebih awal.
Bagi OpenAI, investigasi ini memperlihatkan tantangan yang lebih luas dalam pengembangan sistem AI yang makin mandiri. Memahami apa yang telah dilakukan model AI setelah mereka diberi akses ke lingkungan digital dunia nyata menjadi persoalan yang belum sepenuhnya terpecahkan.