JBNews.id — Anthropic, perusahaan AI paling bernilai di dunia dengan valuasi US$1 triliun, secara resmi menyerukan moratorium global atau “jeda” pengembangan kecerdasan buatan. Perusahaan yang mengembangkan model Claude ini beralasan bahwa teknologi tersebut mendekati titik di mana AI bisa lepas dari kendali manusia. Seruan ini disampaikan melalui sebuah unggahan blog panjang pada Kamis (Juni 2026).
Dasar Kekhawatiran: Kemampuan Memperbaiki Diri
Dalam pernyataannya, Anthropic mengklaim bahwa keluarga model Claude berada di jalur untuk mencapai “recursive self-improvement,” yaitu kemampuan untuk meningkatkan diri mereka sendiri secara otonom. Perusahaan menyebut pencapaian ini sebagai titik kritis hipotetis yang dapat mengarah pada penciptaan AI superkuat yang beroperasi di luar kepentingan manusia dan membahayakan masyarakat.
“Kami percaya akan menjadi hal yang baik bagi dunia jika memiliki opsi untuk memperlambat atau menjeda sementara pengembangan AI frontier,” tulis Anthropic dalam postingan tersebut. Perusahaan menambahkan bahwa “perlambatan atau jeda yang berarti akan membutuhkan banyak laboratorium yang memiliki sumber daya memadai, di berbagai negara, untuk setuju berhenti dalam kondisi yang sama,” dan mengakui bahwa hal ini akan sulit ditegakkan. “Proses pelatihan jauh lebih mudah disembunyikan daripada silo rudal,” tulis mereka.
Meski demikian, Anthropic menekankan bahwa pihaknya belum berada pada titik tersebut, namun situasi itu “bisa datang lebih cepat daripada yang dipersiapkan oleh sebagian besar institusi.” Kekhawatiran ini sejalan dengan peringatan yang pernah disampaikan oleh Pendiri Anthropic sebelumnya mengenai bahaya AI tanpa kendali.
Kritik Tajam: Bait and Switch
Seruan Anthropic ini langsung menuai kritik. Gary Marcus, kritikus AI terkemuka, menyebut postingan panjang perusahaan tersebut sebagai “bait and switch” atau umpan dan tipu daya.
“Anthropic mencoba menanamkan teror di hati semua orang (‘recursive self-improvement penuh juga dapat meningkatkan risiko manusia kehilangan kendali atas sistem AI’) tetapi yang sebenarnya mereka tunjukkan hanyalah coding yang lebih cepat—sepenuhnya di bawah kendali manusia,” tulis Marcus di Substack-nya. “Alat coding yang lebih cepat mungkin tidak akan mengakhiri dunia.”
Kritik ini muncul di tengah catatan kontradiktif Anthropic. Perusahaan yang sejak awal membangun citra sebagai entitas AI yang etis dan sangat peduli keselamatan ini memiliki sejumlah inkonsistensi. Dua bulan lalu, Anthropic mengumumkan model baru bernama Mythos tetapi pura-pura tidak merilisnya ke publik, mengklaim model itu cukup kuat untuk membobol “setiap sistem operasi utama dan setiap browser web utama.”
Catatan Kontradiktif: dari Pentagon hingga Iran
Aksi Anthropic dinilai semakin tidak konsisten. Awal tahun ini, perusahaan bentrok dengan Pentagon atas kekhawatiran bahwa sistem AI mereka dapat digunakan dalam persenjataan otonom dan pengawasan massal warga negara AS. Belakangan, terungkap bahwa Claude digunakan untuk membantu memilih target serangan di Iran.
Di tengah perseteruannya dengan militer, Anthropic juga menarik janji keselamatan yang merupakan raison d’etre perusahaan: untuk menghentikan pelatihan sistem AI jika tidak dapat menjamin bahwa sistem tersebut memiliki pagar pengaman yang tepat. Hal ini menimbulkan pertanyaan serius tentang komitmen perusahaan terhadap keselamatan yang selama ini mereka gaungkan.
Lebih lanjut, Steven Murdoch, profesor dari University College London, mengutip laporan Financial Times yang mengungkap bahwa Anthropic membantu Badan Keamanan Nasional AS (NSA) menggunakan model Mythos untuk melancarkan perang siber terhadap musuh potensial seperti China dan Iran. “Anthropic mungkin memberi kesan hangat dan lembut, tetapi definisi mereka tentang keselamatan AI sempit,” kata Murdoch kepada The Guardian. “Mendukung otoritas AS dalam pengembangan kemampuan ofensif tidak pernah menjadi sesuatu yang mereka tolak.”
Baca Juga:
Konteks Dominasi Pasar
Waktu seruan Anthropic untuk jeda dianggap sangat strategis. Dalam beberapa bulan terakhir, perusahaan ini melompati OpenAI untuk menjadi perusahaan AI paling bernilai di dunia. Model-modelnya kini umumnya dipandang sebagai yang terbaik di bidangnya, terutama dalam tugas coding. Jika industri benar-benar mengerem sekarang, posisi dominan Anthropic akan semakin terkunci.
Fenomena ini sejalan dengan dinamika pasar yang lebih luas, di mana IPO Raksasa SpaceX, Anthropic, dan OpenAI disebut berpotensi mengancam stabilitas pasar saham AS. Valuasi yang melambung tinggi menciptakan tekanan tersendiri bagi perusahaan untuk mempertahankan posisinya.
Langkah Selanjutnya
Terlepas dari apakah Anthropic benar-benar berpikir memiliki peluang realistis untuk mewujudkan jeda global—atau ini adalah taktik lain untuk meningkatkan citra peduli keselamatan—perusahaan berjanji untuk melanjutkan aksinya. “Dalam beberapa bulan mendatang, kami akan mengatur percakapan di mana para pembuat kebijakan, peneliti, masyarakat sipil, dan perusahaan AI lainnya dapat membantu menjawab beberapa pertanyaan yang diangkat oleh tulisan ini, terutama seputar recursive self-improvement penuh dan bagaimana menciptakan opsi yang lebih baik untuk koordinasi dan musyawarah,” tulis Anthropic. “Kami akan mempublikasikan apa yang dihasilkan dari diskusi tersebut.”
Implikasinya jelas: seruan moratorium ini menghadapi skeptisisme luas, terutama mengingat catatan kontradiktif Anthropic. Bagi industri dan regulator, langkah selanjutnya adalah memilah antara kekhawatiran keselamatan yang tulus dengan manuver bisnis yang strategis. Publik dan pemangku kepentingan perlu mencermati apakah tindakan Anthropic sejalan dengan retorika keselamatan yang mereka bangun.