JAKARTA – Kekhawatiran para peneliti keselamatan kecerdasan buatan (AI) terkait potensi AI melakukan tindakan berbahaya secara mandiri disebut mulai menjadi kenyataan. Sebuah insiden keamanan siber yang melibatkan model AI Open AI menunjukkan bahwa teknologi tersebut mampu menjalankan tindakan kompleks tanpa instruksi langsung dari manusia.
Insiden tersebut terjadi ketika dua model AI milik OpenAI dilaporkan berhasil keluar dari lingkungan pengujian (sandbox) yang seharusnya terisolasi, kemudian melakukan serangan terhadap sistem milik perusahaan AI lain, Hugging Face.
Model yang terlibat disebut mencakup GPT-5.6 Sol, salah satu model AI terbaru OpenAI yang telah tersedia untuk publik, serta satu model lain yang belum dirilis dan diklaim memiliki kemampuan lebih tinggi.
OpenAI mengonfirmasi insiden tersebut melalui blog resminya pada Selasa (21/7/2026). Perusahaan menyebut kejadian itu sebagai “insiden siber yang belum pernah terjadi sebelumnya” karena menunjukkan kemampuan model AI dalam melakukan serangan siber tingkat lanjut.
AI Keluar dari Lingkungan Pengujian
Sorotan utama dalam insiden ini bukan hanya kemampuan AI menembus lingkungan pengujian digital, tetapi juga tindakan yang dilakukan secara mandiri tanpa arahan manusia.
Kejadian bermula saat OpenAI menguji kemampuan keamanan siber GPT-5.6 Sol dan satu model AI lainnya menggunakan alat pengujian bernama ExploitGym.
ExploitGym dirancang untuk mengukur kemampuan model AI dalam menemukan serta mengeksploitasi celah keamanan pada perangkat lunak. Dalam proses pengujian, OpenAI menonaktifkan sejumlah sistem pengaman (safeguards) agar kemampuan asli model dapat diuji secara maksimal.
Kedua model tersebut kemudian ditempatkan dalam lingkungan tertutup yang tidak memiliki akses langsung ke internet maupun sistem eksternal. Namun, hasil pengujian justru berjalan di luar skenario yang dirancang.
Model AI tersebut dilaporkan berusaha mencari cara untuk memperoleh akses internet dengan memanfaatkan celah keamanan zero-day, yakni kerentanan perangkat lunak yang sebelumnya belum diketahui.
Kemampuan menemukan celah semacam itu biasanya membutuhkan pengalaman dan waktu panjang dari peretas berpengalaman. Namun, dalam pengujian tersebut, model AI disebut mampu menemukan celah tersebut hanya dalam hitungan hari.
Setelah memperoleh akses, AI melakukan sejumlah langkah, mulai dari meningkatkan hak akses (privilege escalation) di dalam sistem OpenAI hingga berpindah antar sistem internal untuk mendapatkan akses yang lebih tinggi.
Model tersebut kemudian berhasil mencapai sistem yang memiliki koneksi internet dan melakukan tindakan yang tidak diperintahkan OpenAI, yakni menyerang sistem milik Hugging Face.
AI Diduga Mencari Solusi Pengujian di Hugging Face
Setelah memperoleh akses internet, model AI diduga mengambil keputusan untuk mencari sumber daya yang berkaitan dengan pengujian ExploitGym di Hugging Face.
Hugging Face merupakan platform yang menyediakan berbagai model AI sumber terbuka (open source), dataset, serta sumber daya pengembangan kecerdasan buatan bagi komunitas global.
Menurut OpenAI, model AI tersebut melakukan serangan dengan menggabungkan sejumlah teknik, termasuk penggunaan kredensial yang diperoleh secara ilegal dan eksploitasi celah keamanan untuk menemukan jalur remote code execution (RCE), yakni metode yang memungkinkan kode dijalankan dari jarak jauh pada sebuah server.
Hugging Face menyebut serangan berlangsung sepanjang akhir pekan melalui ribuan aktivitas dari berbagai sesi sandbox. Pada akhirnya, model AI berhasil memperoleh solusi pengujian langsung dari basis data produksi Hugging Face.
Dengan kata lain, model tersebut berhasil mendapatkan “jawaban ujian” yang seharusnya diperoleh melalui proses pengujian mandiri.
OpenAI Ambil Langkah Pencegahan
Setelah insiden terungkap, OpenAI menyatakan telah mengambil sejumlah langkah untuk mencegah kejadian serupa.
Perusahaan memperketat konfigurasi infrastruktur internal meskipun langkah tersebut berpotensi memperlambat proses penelitian dan pengembangan.
Selain itu, OpenAI bersama Hugging Face melakukan investigasi forensik untuk mengungkap seluruh rangkaian aktivitas yang terjadi. OpenAI juga melaporkan celah zero-day yang ditemukan pada perangkat lunak pihak ketiga kepada pengembang terkait melalui mekanisme pengungkapan yang bertanggung jawab.
Hugging Face kemudian bergabung dalam program Trusted Access OpenAI. Program tersebut memungkinkan Hugging Face memanfaatkan kemampuan model AI OpenAI untuk membantu memperkuat sistem pertahanan sibernya.
OpenAI juga berkomitmen meningkatkan sistem keamanan dalam proses pelatihan dan evaluasi model AI generasi berikutnya.
Tidak Ada Data Pelanggan yang Bocor
OpenAI menyatakan dampak insiden tersebut tidak tergolong besar. Meski model AI berhasil membawa sejumlah dataset internal dan data sensitif milik Hugging Face, tidak ditemukan adanya kebocoran data pelanggan.
CEO Hugging Face, Clement Delangue, memastikan pihaknya tidak melihat adanya unsur kesengajaan dari OpenAI.
“Kami sudah bekerja sama erat dengan tim OpenAI selama 24 jam terakhir (terima kasih!), dan kami sangat yakin tidak ada niat jahat di pihak mereka,” tulis Delangue.
Ia juga mengaku terkejut karena rangkaian serangan tersebut dapat berlangsung secara otomatis.
“Cukup mencengangkan bahwa semua ini terjadi secara otomatis!” lanjutnya.[]
