JBNews.id — Perusahaan AI yang mengklaim sebagai garda etika industri, Anthropic, kedapatan menyembunyikan kode mata-mata di model AI Claude Code untuk mengumpulkan data pengguna China tanpa sepengetahuan mereka.
Temuan ini diungkap oleh seorang peneliti keamanan dengan nama samaran “Thereallo” pekan lalu. Kode tersebut, yang mirip dengan spyware, disisipkan di dalam system prompt model AI, memungkinkannya melacak zona waktu sistem dan penggunaan server proxy pengguna untuk mendeteksi apakah mereka terhubung ke laboratorium AI China tertentu.
Insiden ini menjadi pukulan telak bagi reputasi Anthropic yang selama ini membangun citra sebagai perusahaan AI paling etis dan transparan. Langkah diam-diam ini memicu pertanyaan besar tentang komitmen perusahaan terhadap privasi pengguna, terutama mengingat basis pelanggan setia yang beralih dari ChatGPT justru karena prinsip etika yang diusung Anthropic.
Dalam pernyataannya di platform X, insinyur Anthropic Thariq Shihipa mengakui bahwa pelacak tersebut ditambahkan sebagai “eksperimen” pada Maret lalu. Tujuannya adalah “untuk mencegah penyalahgunaan akun oleh penjual ulang tidak sah dan melindungi dari distilasi,” dan seharusnya sudah dihapus. “Kami sebenarnya sudah berniat untuk menghapus ini sejak lama,” tulisnya.
Distilasi adalah proses melatih model AI yang lebih lemah (“student”) berdasarkan keluaran model yang lebih canggih (“teacher”). Praktik ini lazim di industri, namun pengembang AI besar semakin merasa bahwa praktik ini disalahgunakan oleh perusahaan rintisan yang ingin menumpang popularitas mereka. Awal tahun ini, Anthropic menuduh perusahaan AI China, DeepSeek, Moonshot, dan MiniMax, melakukan distilasi ilegal terhadap model mereka.
Ironisnya, tuduhan ini terasa paradoksal mengingat Anthropic sendiri melatih teknologinya dengan memindai dan menyalin jutaan buku berhak cipta serta hampir seluruh internet tanpa izin. Laporan terbaru dari The Washington Post juga mengungkap bahwa beberapa penjual ulang China menjual akses berlangganan Pro Claude, yang harganya lebih dari $100 per bulan di AS, dengan harga sekitar $12 per bulan.
Meskipun masalah penjualan ulang ini nyata bagi Anthropic, langkah mereka untuk menanganinya secara diam-diam justru menjadi bumerang. Sebagian besar loyalitas pelanggan Anthropic lahir dari komitmen perusahaan terhadap pengembangan AI yang etis dan transparan. Banyak pengguna ChatGPT beralih ke Claude ketika Anthropic secara terbuka menolak bekerja sama dengan Pentagon untuk pengawasan massal warga negara AS.
Data yang dikumpulkan dalam kasus ini mungkin tidak terlalu invasif — tetapi secara prinsip, sebuah garis etika telah dilanggar. “Agen coding sudah hidup di sisi yang salah dari batas yang menakutkan,” tulis Thereallo dalam postingannya. “Mereka dapat memeriksa kode, meringkas rahasia secara tidak sengaja, menjalankan perintah, menginstal paket, mengedit file, dan melakukan commit di mesin lokal Anda.”
Yang lebih mengkhawatirkan, “menyembunyikan sinyal di system prompt membuat setiap klaim privasi lainnya lebih sulit dipercaya,” tambahnya. Thereallo menegaskan bahwa “perusahaan dapat melindungi model mereka,” tetapi “ketika alat dengan akses filesystem dan shell mulai menyembunyikan bit klasifikasi di dalam tanda baca prompt yang tidak terlihat, reaksi yang benar adalah kecurigaan.”
Insiden ini menunjukkan bahwa bahkan perusahaan yang paling vokal tentang etika AI pun bisa tergoda untuk mengorbankan prinsip demi kepentingan bisnis. Langkah Anthropic yang diam-diam memata-matai pengguna China mencerminkan tekanan kompetitif yang sangat besar di industri AI global, terutama dalam persaingan dengan perusahaan-perusahaan China.
Baca Juga:
Implikasinya bagi pengguna AI sangat jelas: tidak ada model AI yang sepenuhnya dapat dipercaya secara membabi buta. Setiap klaim privasi dan transparansi harus diuji, bukan diterima begitu saja. Bagi pengguna di Indonesia yang bergantung pada layanan AI global, insiden ini menjadi pengingat untuk selalu waspada terhadap data yang dibagikan ke platform AI, terlepas dari seberapa etis klaim perusahaan tersebut.
Pelanggaran kepercayaan ini juga berpotensi memicu pengawasan regulasi yang lebih ketat terhadap praktik pengumpulan data oleh perusahaan AI, baik di AS maupun secara global. Kebijakan ekspor model AI dan standar privasi data kemungkinan akan menjadi sorotan utama setelah insiden ini.
Anthropic kini menghadapi dilema besar: bagaimana mempertahankan klaim sebagai pemimpin etika AI sementara bukti menunjukkan sebaliknya. Perhitungan risiko yang dilakukan para ekonom Anthropic tentang kepunahan manusia kini terasa ironis di tengah skandal pengintaian pengguna ini.
Seperti yang dikatakan oleh Thereallo, “reaksi yang benar adalah kecurigaan.” Di era di mana alat AI memiliki akses mendalam ke sistem pengguna, kepercayaan bukan lagi sesuatu yang bisa diklaim — ia harus dibuktikan setiap saat.