JBNews.id — Jack Clark, salah satu pendiri perusahaan kecerdasan buatan (AI) Anthropic, menyerukan perlunya kemampuan untuk memperlambat laju perkembangan AI. Ia memperingatkan bahwa teknologi ini mendekati titik di mana ia dapat berkembang tanpa campur tangan manusia.
“Anda tentu menginginkan opsi untuk bisa melepaskan kaki dari pedal gas dan menginjak pedal rem. Saat ini industri AI ibaratnya hanya memiliki pedal gas, tanpa pedal rem,” kata Clark yang dikutip dari BBC.
Pernyataan ini muncul di tengah pesatnya pertumbuhan Anthropic. Perusahaan yang didirikan lima tahun lalu itu kini bersiap untuk debut di pasar saham. Pencatatan saham ini diproyeksi menjadi salah satu yang pertama oleh perusahaan AI pendatang baru, sekaligus menjadi salah satu pencatatan saham paling berharga dalam sejarah dengan valuasi hampir USD 1 triliun.
Clark menekankan bahwa masyarakat, melalui kebijakan pemerintah, harus tetap memegang kendali atas sistem AI yang ke depannya akan menjadi semakin kuat dan berdampak lebih luas. “Dunia perlu merenungkan hal ini dan pada akhirnya kita harus menyusun sejumlah regulasi baru yang membuat kita merasa yakin dan aman dengan sistem-sistem ini,” ujarnya.
Saat ini, chatbot populer Anthropic, Claude, beroperasi menggunakan kode yang 80%-nya ditulis sendiri oleh sistem tersebut. Menurut Clark, mencapai angka 100% sangat mungkin terjadi dalam kurun waktu dua tahun dan hal itu akan membawa implikasi yang sangat besar.
Meskipun memberikan peringatan keras, Anthropic baru-baru ini menyambut baik perintah eksekutif tentang AI dari Presiden AS Donald Trump yang tidak mewajibkan perusahaan AI untuk tunduk pada pengujian keamanan oleh pemerintah. Langkah ini dinilai kontradiktif dengan kekhawatiran yang disuarakan oleh Clark.
Analogi Industri Minyak dan Regulasi AI
Clark tidak menjelaskan secara rinci bagaimana “pedal rem” untuk AI ini dapat diciptakan. Namun, ia menarik persamaan antara AI dengan ledakan industri minyak beserta para konglomeratnya.
“Respons masyarakat kala itu adalah merumuskan kebijakan dan kerangka regulasi yang masuk akal, memberi masyarakat keyakinan akan minyak beserta manfaat yang bisa diberikan ke dunia. Ini berarti Anda tidak perlu lagi mengkhawatirkan karakter dari orang-orang yang memimpin perusahaan tersebut. Itulah arah yang jelas akan kita tuju saat ini,” sebutnya.
Clark mengatakan bahwa motivasi Anthropic untuk membahas peningkatan kapabilitas teknologi AI secara publik bukanlah untuk memoles reputasinya di mata pelanggan berbayar. Ia hanya ingin memberi tahu dunia mengenai apa yang mereka lihat di dalam perusahaan-perusahaan ini dengan teknologi yang tidak biasa tersebut.
Sejak didirikan oleh Dario Amodei, Clark, dan beberapa eksekutif lainnya, Anthropic memang vokal terhadap risiko AI. Perusahaan ini bahkan terlibat perselisihan dengan Departemen Pertahanan AS atas kekhawatiran bahwa perangkat AI-nya dapat digunakan untuk pengawasan massal dan peperangan otonom.
Baca Juga:
Kekhawatiran terhadap Masa Depan dan Risiko Ekonomi
“Saya khawatir akan nasib anak-anak saya jika kita sebagai masyarakat tidak melakukan pembicaraan serius mengenai makna dari implikasi kemajuan AI yang terus berlanjut. Ada potensi manfaat yang besar. Namun ada pula risiko-risikonya,” ungkap Clark.
Salah satu risiko terbesar yang ia soroti adalah disrupsi perekonomian. Perusahaan-perusahaan teknologi besar telah melakukan PHK massal, dengan sering kali menjadikan peningkatan kemampuan AI untuk melakukan pekerjaan engineer sebagai alasannya.
Kondisi ini semakin relevan dengan kekhawatiran pajak dari raksasa teknologi global yang belum optimal terserap di berbagai negara, termasuk Indonesia. Ketika perusahaan AI terus berkembang tanpa regulasi yang jelas, dampak ekonominya bisa semakin sulit dikendalikan.
Meskipun demikian, Clark menilai bahwa orang-orang kreatif dan memiliki ide-ide justru mungkin unggul dibanding AI. “Masih ada pertanyaan yang belum terjawab mengenai apakah sistem AI bisa benar-benar kreatif—belum ada bukti nyata untuk itu saat ini,” tambahnya.
Peringatan dari salah satu pendiri Anthropic ini menjadi pengingat bahwa di balik gemerlapnya valuasi perusahaan AI yang mencapai hampir USD 1 triliun, terdapat kekhawatiran mendasar tentang kendali manusia terhadap teknologi yang diciptakannya sendiri. Tanpa adanya “pedal rem” yang efektif, perkembangan AI yang semakin otonom bisa membawa konsekuensi yang tidak terduga bagi masyarakat global.
Bagi pembaca di Indonesia dan Jawa Barat, peringatan ini relevan mengingat adopsi AI di berbagai sektor—dari layanan pelanggan hingga manufaktur—terus meningkat. Regulasi yang tepat dan kesadaran akan risiko menjadi kunci agar manfaat AI dapat dinikmati tanpa mengorbankan keamanan dan kesejahteraan masyarakat.