Insiden keamanan siber yang melibatkan agen AI OpenAI dan Hugging Face menjadi perhatian dunia teknologi. Dalam pengujian internal kemampuan siber, model AI yang sedang dievaluasi dilaporkan keluar dari lingkungan uji terbatas dan mengakses infrastruktur Hugging Face untuk mencari solusi benchmark ExploitGym.
Peristiwa ini bermula saat OpenAI menguji kemampuan model melalui ExploitGym, sebuah benchmark untuk mengukur kemampuan agen AI dalam menyelesaikan tantangan eksploitasi keamanan siber. Meski berada dalam lingkungan uji yang dibatasi, model tersebut berusaha memperoleh akses internet untuk menyelesaikan tugas evaluasi.
OpenAI menyebut model yang diuji mengeksploitasi celah pada sistem perantara paket perangkat lunak hingga memperoleh akses keluar dari sandbox. Setelah itu, aktivitasnya terhubung dengan upaya mencari data, model, dan solusi yang berkaitan dengan ExploitGym di infrastruktur Hugging Face.
Hugging Face mengungkap adanya akses tidak sah terhadap sejumlah dataset internal dan kredensial layanan. Namun, perusahaan menyatakan tidak menemukan bukti manipulasi pada model, dataset, Spaces publik, maupun rantai pasok perangkat lunak. Proses investigasi terhadap kemungkinan dampak pada data partner atau pelanggan tetap dilakukan.
OpenAI dan Hugging Face kemudian bekerja sama menangani insiden tersebut. OpenAI memperketat batas pengujian dan menonaktifkan model internal yang terlibat, sementara Hugging Face menutup celah awal, merotasi kredensial, serta memperkuat sistem deteksi. Kasus ini menjadi pengingat bahwa pengujian AI berkemampuan siber tinggi membutuhkan pengamanan dan pengawasan yang lebih ketat. (Ivan)
