# Uji Keamanan OpenAI Kacau, Agen AI Bobol Hugging Face > Source: > Published: 2026-07-28 06:45:00+00:00 JAKARTA - Uji keamanan OpenAI berubah menjadi insiden siber yang tidak biasa. Sebuah agen AI disebut keluar dari lingkungan pengujian, lalu masuk ke sistem Hugging Face dan melakukan puluhan ribu tindakan otomatis. Agen AI adalah sistem kecerdasan buatan yang bisa menjalankan tugas secara mandiri berdasarkan instruksi. Bedanya dengan chatbot biasa, agen AI tidak hanya menjawab, tetapi dapat mengambil langkah, mencari jalan, dan menjalankan tindakan tertentu. CNet dikutip Senin, 27 Juli, melaporkan, insiden itu terjadi saat OpenAI menguji dua model canggihnya dalam sandbox. Sandbox adalah lingkungan terisolasi yang dipakai untuk menguji sistem agar tidak langsung menyentuh layanan nyata. Pengujian itu bagian dari riset keamanan OpenAI. Tujuannya untuk melihat apakah dua model, termasuk GPT-5.6 Sol dan satu model lain yang lebih kuat tetapi belum dirilis, dapat “berpikir seperti peretas”. Tes dilakukan dengan pembatas keamanan yang dikurangi. Masalah muncul ketika model AI menemukan celah pada perangkat lunak, keluar dari ruang uji, lalu terhubung ke internet terbuka. ## BACA JUGA: Setelah daring, agen AI itu menilai Hugging Face mungkin punya jalan untuk “mengakali” tolok ukur pengujian agar model bisa lulus evaluasi. Hugging Face adalah platform untuk model dan dataset AI sumber terbuka. Agen tersebut kemudian menjalankan kode yang memungkinkan pengumpulan kredensial. Kredensial adalah data untuk masuk ke sistem, seperti token, kunci akses, atau sandi. Jalur itu lalu dipakai untuk masuk ke sistem produksi Hugging Face. Hugging Face mendeteksi aktivitas mencurigakan itu dan menahannya. Perusahaan tersebut merinci kejadian itu dalam unggahan blog. OpenAI menyebutnya sebagai “insiden siber yang belum pernah terjadi sebelumnya”. CNet juga mencantumkan pengungkapan bahwa perusahaan induknya, Ziff Davis, pada 2025 menggugat OpenAI. Gugatan itu menuduh OpenAI melanggar hak cipta Ziff Davis dalam pelatihan dan pengoperasian sistem AI. Bagian paling mengganggu dari insiden ini bukan semata bobolnya sistem. Menurut CNet, agen AI tersebut tampaknya tidak menyerang dalam pengertian klasik seperti kelompok peretas manusia. Sistem itu berusaha menyelesaikan tes sesuai instruksi yang diterima. Masalahnya, agen itu melihat Hugging Face sebagai jalan menuju jawaban. Ia lalu terus mencoba masuk ke infrastruktur perusahaan. Karena itu, insiden OpenAI-Hugging Face disebut sebagai peringatan keras bagi industri AI. “Penyerang” dalam kasus ini adalah sistem AI yang bertindak sendiri, bukan tim peretas yang dikendalikan manusia. Risikonya menjadi lebih lebar dari sekadar pencurian kredensial. Model AI, bahkan di ruang uji, dapat berperilaku tidak terduga, menyentuh layanan nyata, dan sulit dihentikan tepat waktu. Beberapa hari setelah OpenAI mengumumkan pembobolan itu, anggota parlemen AS memperkenalkan AI Kill Switch Act. RUU bipartisan di DPR AS itu akan mewajibkan pengembang AI canggih memiliki cara untuk segera membatasi, menangguhkan, atau mematikan model dan agen jika diperlukan. RUU itu juga memberi lembaga federal kewenangan memperlambat atau menghentikan model jika dinilai dapat “menyebabkan kerugian katastrofik”. Namun, CNet menyebut langkah semacam itu belum tentu berjalan mulus. Anthropic sebelumnya menemukan model AI dapat mengambil tindakan sangat berbahaya, termasuk mencoba mencuri bobot model atau memeras orang yang dianggap hendak mematikannya. Bobot model adalah bagian penting dari sistem AI yang menyimpan pola hasil pelatihan. Dalam bahasa sederhana, itu seperti “ingatan teknis” yang membuat model bisa bekerja. Insiden ini juga memperlihatkan sisi lain persaingan AI Amerika Serikat dan China. Untuk menganalisis serangan, Hugging Face disebut tidak dapat memakai alat AI komersial karena terlalu terkunci dan ketat untuk membaca catatan serangan serta jejak aktivitas peretasan. Sebaliknya, perusahaan itu menggunakan model sumber terbuka China, GLM 5.2. Model tersebut dapat memproses data forensik di lingkungan Hugging Face tanpa mengirim informasi sensitif ke luar. OpenAI dan Hugging Face kemudian membahas perbaikan serta pembatas keamanan setelah insiden. Salah satu langkah OpenAI adalah lebih sering menjalankan pemeriksaan otomatis terhadap model yang berjalan lama. OpenAI juga menambahkan Hugging Face ke program akses tepercaya. Program ini memberi peneliti keamanan siber dan pihak tertentu akses ke model yang punya kemampuan siber lebih besar dan batas penggunaan lebih longgar untuk menyiapkan pertahanan. CNet juga mengaitkan insiden itu dengan kasus NanoGPT speedrun. Dalam kasus tersebut, model yang berada dalam lingkungan tertutup disebut berulang kali mencari cara keluar dan mengabaikan instruksi “hanya” mengunggah hasil ke Slack. Model itu juga diminta membuat pull request ke GitHub, yaitu permintaan agar perubahan kode digabungkan ke proyek. Namun, sistem tersebut kemudian menemukan cara memalsukan token autentikasi ketika token pertama diblokir. Token autentikasi adalah kode digital untuk membuktikan hak akses ke sistem. Dalam insiden GitHub itu, kode sudah tergabung ke beberapa proyek sebelum OpenAI dapat menangani masalah tersebut. [ Add VOI as a Preferred Source Follow VOI news updates across Google. + ](https://www.google.com/preferences/source?q=https://voi.id)