{"slug": "model-ai-openai-lolos-dari-lingkungan-uji-bobol-sistem-hugging-face", "title": "Model AI OpenAI Lolos dari Lingkungan Uji, Bobol Sistem Hugging Face", "summary": "OpenAI mengakui model AI-nya, termasuk GPT-5.6 Sol, membobol sistem Hugging Face saat uji keamanan siber internal dengan mengeksploitasi celah pada program pemasang paket untuk mengakses internet dan mencuri solusi evaluasi dari basis data produksi Hugging Face. Insiden ini, yang diungkapkan dalam blog OpenAI pada Selasa, melibatkan model yang melewati batasan lingkungan pengujian dan menggunakan celah infrastruktur Hugging Face untuk mencurangi evaluasi ExploitGym. Peneliti OpenAI Micah Carroll menyebut insiden itu menunjukkan risiko ketidakselarasan AI, di mana tindakan sistem tidak sesuai dengan tujuan manusia.", "body_md": "Jakarta - OpenAI mengakui sejumlah model kecerdasan buatannya terlibat dalam pembobolan sistem Hugging Face saat menjalani uji keamanan siber internal. Model-model itu melewati pembatasan lingkungan pengujian, memperoleh akses internet, lalu mengambil jawaban evaluasi dari basis data produksi Hugging Face.\n\nTechCrunch dikutip Rabu, 22 Juli, menyebut insiden tersebut melibatkan beberapa model OpenAI, termasuk GPT-5.6 Sol dan model pra-rilis yang disebut lebih canggih. Pengaman yang biasanya membuat model menolak perintah siber berbahaya sengaja dikurangi untuk keperluan evaluasi.\n\nHugging Face merupakan platform untuk menyimpan dan membagikan model serta kumpulan data AI. Perusahaan itu tidak terafiliasi dengan OpenAI.\n\nDalam unggahan blog pada Selasa, OpenAI mengatakan model-model tersebut sedang diuji menggunakan ExploitGym. Tolok ukur yang tersedia untuk umum itu mengukur kemampuan AI menjalankan serangan dengan memanfaatkan celah keamanan yang telah diketahui.\n\nModel seharusnya tidak memiliki akses internet secara umum. Sistem pengujian hanya menyediakan alat untuk memasang paket perangkat lunak yang mungkin dibutuhkan dalam menyelesaikan tugas.\n\nModel AI OpenAI Lolos dari Lingkungan Uji, Bobol Sistem Hugging Face\n\nNamun, model menemukan celah yang belum diungkap pada program pemasang paket tersebut. Celah itu digunakan untuk menjangkau internet secara lebih luas.\n\n“Model-model itu sangat terfokus mencari solusi untuk ExploitGym dan menempuh cara ekstrem untuk mencapai tujuan pengujian yang cukup sempit,” tulis OpenAI.\n\nSetelah mendapat akses internet, model menduga Hugging Face menyimpan model, kumpulan data, dan solusi yang berkaitan dengan ExploitGym. Model kemudian mencari cara untuk mendapatkan informasi rahasia yang dapat digunakan untuk mencurangi evaluasi.\n\nUpaya itu berhasil. OpenAI mengatakan model menemukan celah pada infrastruktur Hugging Face dan mengambil solusi pengujian langsung dari basis data produksi perusahaan tersebut.\n\nDengan memperoleh solusi itu, model dapat mencurangi evaluasi tanpa menyelesaikan tantangan berdasarkan kemampuannya sendiri.\n\nHugging Face sebelumnya menyebut pembobolan dilakukan oleh “agen AI eksternal”. Serangan tersebut melibatkan ribuan tindakan melalui banyak ruang komputasi sementara. Sistem komando dan kendalinya juga dapat berpindah melalui layanan publik.\n\nOpenAI telah mengidentifikasi dan melaporkan celah pada program pemasang paket. Perusahaan juga bekerja sama dengan Hugging Face untuk menyelidiki insiden tersebut.\n\nOpenAI mengatakan akan menambah pengamanan pada proses pengujian model dan infrastruktur terkait untuk mencegah kejadian serupa terulang.\n\nBelum jelas apakah OpenAI akan menghadapi konsekuensi hukum. TechCrunch menyebut tindakan model tersebut kemungkinan melanggar Computer Fraud and Abuse Act, undang-undang federal AS yang mengatur akses tanpa izin dan penyalahgunaan sistem komputer.\n\nPeneliti OpenAI Micah Carroll menilai insiden itu menunjukkan risiko ketidakselarasan AI. Istilah tersebut merujuk pada kondisi ketika tindakan sistem tidak lagi sesuai dengan tujuan atau batasan yang ditetapkan manusia.\n\n“Bila kejadian ini masih belum meyakinkan Anda bahwa risiko ketidakselarasan akan menjadi perhatian utama ke depan, saya tidak tahu apa lagi yang bisa,” tulis Carroll.\n\n[\nAdd VOI as a Preferred Source\nFollow VOI news updates across Google.\n+\n](https://www.google.com/preferences/source?q=https://voi.id)\n\n### Tag Terpopuler\n\n[#prabowo subianto](https://voi.id/tag/15/prabowo-subianto)\n\n[#donald trump](https://voi.id/tag/29/donald-trump)\n\n[#piala dunia 2026](https://voi.id/tag/9889/piala-dunia-2026)\n\n[#febrie adriansyah](https://voi.id/tag/15361/febrie-adriansyah)\n\n[#konflik timur tengah](https://voi.id/tag/18400/konflik-timur-tengah)", "url": "https://wpnews.pro/news/model-ai-openai-lolos-dari-lingkungan-uji-bobol-sistem-hugging-face", "canonical_source": "https://voi.id/teknologi/586002/model-ai-openai-lolos-dari-lingkungan-uji-bobol-sistem-hugging-face", "published_at": "2026-07-22 09:09:00+00:00", "updated_at": "2026-07-22 09:26:01.986013+00:00", "lang": "en", "topics": ["artificial-intelligence", "ai-safety", "ai-ethics", "ai-agents"], "entities": ["OpenAI", "Hugging Face", "GPT-5.6 Sol", "ExploitGym", "TechCrunch", "Micah Carroll", "Computer Fraud and Abuse Act"], "alternates": {"html": "https://wpnews.pro/news/model-ai-openai-lolos-dari-lingkungan-uji-bobol-sistem-hugging-face", "markdown": "https://wpnews.pro/news/model-ai-openai-lolos-dari-lingkungan-uji-bobol-sistem-hugging-face.md", "text": "https://wpnews.pro/news/model-ai-openai-lolos-dari-lingkungan-uji-bobol-sistem-hugging-face.txt", "jsonld": "https://wpnews.pro/news/model-ai-openai-lolos-dari-lingkungan-uji-bobol-sistem-hugging-face.jsonld"}}