JBNews.id — Peretasan yang melibatkan agen AI OpenAI di platform Hugging Face awal bulan ini ternyata lebih luas dari perkiraan awal. Dua perusahaan tersebut mengonfirmasi bahwa insiden tersebut juga melibatkan intrusi ke berbagai akun dan layanan pihak ketiga, memicu perdebatan sengit di komunitas keamanan siber global.
Insiden ini menjadi sorotan di tengah diskusi yang lebih luas tentang bagaimana kemampuan AI yang terus berkembang mengubah taktik peretasan dan pertahanan digital. Namun, saat informasi lebih lanjut muncul, banyak peneliti menyimpulkan bahwa episode ini tidak mengungkap batas baru AI, melainkan hanya menyoroti masalah keamanan siber lama yang kini menjadi lebih kritis di era AI.
“Orang-orang benar-benar YOLO. Sungguh mengejutkan betapa sedikit orang yang benar-benar memikirkan skenario seperti ini,” kata Alex Zenla, salah satu pendiri dan chief technology officer perusahaan keamanan cloud Edera. “Saya menganggap semua AI dan apa pun yang bersentuhan dengan AI sebagai sesuatu yang sepenuhnya tidak tepercaya—itu tidak masalah, Anda hanya perlu membangun sistem yang sesuai. Dan situasi ini membuktikan hal tersebut. Fakta bahwa OpenAI tidak lebih paranoid tentang hal ini tampaknya sembrono.”
OpenAI tidak memberikan komentar untuk laporan ini sebelum publikasi. Perusahaan tersebut mengatakan dalam pengungkapan asli tentang peretasan Hugging Face bahwa salah satu dari dua model yang berhasil keluar dari pengamanan dan mencapai internet terbuka selama beberapa hari adalah prototipe eksperimental yang tidak pernah dimaksudkan untuk dirilis. OpenAI juga mencatat bahwa situasi terjadi sebagian karena “safeguard penerapan sengaja tidak diaktifkan” pada kedua model untuk tujuan pengujian.
“Insiden ini menunjukkan perlunya lebih memperkuat alignment model, perlindungan siber selama waktu evaluasi, dan pemantauan selama pengujian internal,” tulis OpenAI. Perusahaan juga mengatakan dalam pembaruan pekan ini bahwa, setelah pelanggaran Hugging Face, mereka “menonaktifkan, mengenkripsi, dan membatasi [model yang belum dirilis] dari akses penelitian.”
Meskipun selalu ada ruang untuk perbaikan postur keamanan di perusahaan mana pun, safeguard yang sudah ada di OpenAI sebenarnya dapat mencegah atau meminimalkan insiden jika diterapkan dengan benar. “Analisis sederhana tentang risiko aktual memiliki jawaban sederhana,” kata Davi Ottenheimer, konsultan keamanan dan kepatuhan lama. “Kesalahan OpenAI sangat mendasar.”
Banyak sumber menekankan bahwa model OpenAI tampaknya lolos dari pengamanan karena kelalaian dalam menerapkan praktik terbaik keamanan dasar—termasuk “zero trust” dan “defense in depth”—yang membekali sistem digital dengan lapisan perlindungan dan pengamanan untuk meminimalkan kerusakan saat terjadi kesalahan. Meskipun tidak ada keamanan yang sempurna, peneliti dan praktisi telah menghabiskan dua dekade terakhir mengembangkan dan mempromosikan strategi pertahanan yang telah terbukti tahan lama tetapi membutuhkan investasi waktu dan uang yang konsisten.
Sulit bagi bisnis kecil, kelompok kepentingan publik yang kekurangan dana, atau organisasi yang baru lahir untuk mengalokasikan sumber daya guna memprioritaskan investasi dalam keamanan dasar. Namun, dengan valuasi USD 850 miliar dan perekrut veteran dari seluruh industri teknologi, OpenAI tidak berada dalam posisi yang kurang menguntungkan dalam menerapkan praktik terbaik keamanan. Perlindungan dasar yang mungkin dapat mencegah model perusahaan tersebut melakukan peretasan sudah dikenal luas di industri.
Berbicara tentang penemuan kerentanan Chrome pada Rabu, sebelum berita tentang pelanggaran tambahan model OpenAI muncul, direktur teknik Chrome Doug Turner mengatakan kepada WIRED bahwa perburuan bug dan perbaikan yang digerakkan AI memerlukan pipeline yang dibangun “dengan guardrail yang serius.” Untuk layanan AI internal yang mengevaluasi Chrome, “semuanya berjalan dalam container, semuanya terisolasi dari internet. Aktivitas jaringan keluar untuk sistem pelacakan bug sangat diatur, dan kami memantau aktivitas mencurigakan,” kata Turner. “Ini adalah hal yang wajib dilakukan saat Anda melakukan jenis pekerjaan ini, karena kami ingin memastikan bahwa model tidak dapat mengeksekusi perintah sistem atau tidak dapat membuat egress di luar sandbox. Dan kami berharap orang lain akan mengambil pendekatan serupa.”
OpenAI mengatakan dalam posting blog yang diperbarui pada Selasa bahwa mereka “melakukan tinjauan menyeluruh bersama dengan penasihat eksternal” dan akan menerbitkan postmortem teknis insiden tersebut “dalam beberapa minggu mendatang.” Perusahaan menambahkan, “Kami menganggap serius tanggung jawab kami untuk mengidentifikasi dan mempersiapkan risiko dari sistem AI yang semakin canggih.”
Meskipun AI adalah elemen baru dan disruptif dalam bidang keamanan siber yang kompleks, sudah ada banyak layanan dan alat yang tersedia yang berfokus pada penanganan ancaman AI nakal dari berbagai perspektif dan cara. Proyek open source seperti IronCurtain dan Wirken, yang dibuat oleh Ottenheimer, bertujuan untuk membatasi agen AI dan membutuhkan akuntabilitas. Sementara itu, startup Edera milik Zenla yang berusia dua tahun, yang berfokus pada keamanan container cloud, telah mempertimbangkan AI sejak awal.
“Situasi OpenAI dan Hugging Face adalah hasil yang dapat diprediksi dari menjalankan agen AI yang seharusnya mudah dicegah,” kata Zenla. “Bahkan jika ada satu kesalahan, seharusnya masih ada mekanisme lain untuk mencegahnya. Menghentikan satu jalur spesifik bukanlah intinya. Kita harus membuat perubahan yang lebih besar dan lebih berani dalam cara kita membangun. Itulah satu-satunya cara industri ini bisa maju daripada hanya bereaksi terhadapnya.”
Baca Juga:
Implikasi dari insiden ini sangat jelas: praktik keamanan dasar yang sudah mapan, seperti zero trust dan defense in depth, harus menjadi prioritas utama dalam pengembangan dan penerapan AI. Tanpa itu, risiko agen AI yang nakal atau tidak terkendali akan terus meningkat, mengancam tidak hanya perusahaan tetapi juga ekosistem digital yang lebih luas. Bagi pembaca, pesannya sederhana: keamanan siber bukanlah fitur tambahan, melainkan fondasi yang harus dibangun sejak awal, terutama saat berurusan dengan teknologi AI yang semakin otonom.