JBNews.id — Lebih dari 1.000 karyawan dari laboratorium AI terkemuka seperti OpenAI dan Anthropic menandatangani petisi yang mendesak pemerintah AS untuk menemukan cara memperlambat perlombaan AI. Petisi ini mengusulkan opsi koordinasi untuk jeda sementara dalam pengembangan AI jika situasi dianggap tidak terkendali. OpenAI dan Anthropic sendiri akhirnya mendukung surat tersebut.
Petisi tersebut muncul seminggu setelah OpenAI mengungkapkan telah menyebabkan insiden keamanan siber yang belum pernah terjadi sebelumnya. Dalam insiden itu, salah satu agen AI OpenAI meretas platform Hugging Face dan beberapa layanan lain selama pengujian internal. Peristiwa ini menjadi latar belakang penting bagi meningkatnya kekhawatiran akan keamanan dan kecepatan pengembangan AI.
Hampir bersamaan, pejabat tinggi pemerintahan Trump mulai khawatir tentang model AI open weight baru asal China yang mengesankan bernama Kimi K3. Model tersebut diduga didistilasi dari Fable 5 milik Anthropic. Sebagai respons, sebagian besar industri teknologi—kecuali Anthropic—menandatangani surat terbuka dari Nvidia yang meminta pemerintah AS melindungi model AI open-weight, dengan argumen bahwa model tersebut merupakan penyeimbang yang diperlukan terhadap model tertutup.
Rangkaian peristiwa ini mungkin terlihat seperti kekacauan yang tidak saling berhubungan. Namun, menurut analisis, semua ini adalah bukti dari pandangan dunia yang semakin menguat di Silicon Valley, di mana banyak orang di industri teknologi semakin khawatir tentang dominasi OpenAI dan Anthropic. Para peneliti dan investor yang diwawancarai baru-baru ini menggambarkan industri AI sebagai perlombaan dua kuda yang tidak melambat, dan hal itu menjadi penyebab kekhawatiran.
Kekhawatiran Berbeda dari Berbagai Kelompok
Berbagai kelompok memiliki alasan kekhawatiran yang berbeda. Staf OpenAI dan Anthropic menganggap perusahaan mereka bertindak ceroboh dalam upaya menguasai pasar. Mereka khawatir industri AI akan segera mengembangkan model yang terlalu canggih untuk metode keselamatan saat ini. “Saya telah melihat bagaimana laju AI yang tak henti-hentinya membuat masyarakat sulit mengikuti dan memberi tekanan pada laboratorium untuk memotong jalur keselamatan,” kata Jeremy Hadfield, manajer produk riset di Anthropic, dalam pernyataan yang dilampirkan pada petisi.
Bagi sebagian karyawan AI, insiden peretasan Hugging Face menjadi peringatan bahwa upaya OpenAI untuk mengurangi risiko teknologi AI-nya sudah gagal. Insiden itu terjadi saat OpenAI menguji kemampuan model AI untuk menemukan eksploitasi perangkat lunak, dan perusahaan sengaja mematikan pengaman yang dirancang untuk mengekang kemampuan keamanan sibernya. OpenAI mengatakan dalam laporan pasca-insiden bahwa pengujian dilakukan di sandbox, tetapi model tersebut akhirnya mendapatkan akses ke internet terbuka. Beberapa pakar sebelumnya mengatakan kepada WIRED bahwa praktik keamanan OpenAI seharusnya lebih kuat.
Kelompok lain di Silicon Valley lebih khawatir tentang kekuasaan daripada keselamatan. Para pemodal ventura, eksekutif teknologi, dan pendiri startup khawatir bahwa OpenAI dan Anthropic akan menjadi generasi berikutnya dari Apple dan Google, memaksa seluruh industri teknologi untuk mengikuti aturan mereka. Agak aneh untuk berargumen bahwa startup swasta dengan sedikit atau tanpa keuntungan bertindak seperti monopoli, tetapi itulah cara pandang banyak orang—termasuk Mark Zuckerberg—terhadap dua laboratorium AI terbesar.
CEO Meta itu menulis opini di Wall Street Journal pekan ini yang memperingatkan sentralisasi kekuatan di industri AI, dengan mengatakan bahwa superintelligence harus didistribusikan secara luas. Zuckerberg berbicara dari dua sisi—Meta baru-baru ini memutuskan untuk berhenti membuka sumber model AI terbaiknya dan malah menawarkannya melalui API berbayar dan layanan berlangganan, sama seperti OpenAI dan Anthropic. Membaca di antara baris, pesan Zuckerberg pada dasarnya adalah “kita perlu memastikan OpenAI dan Anthropic tidak lari dengan AI.”
Baca Juga:
Masa Depan AI Terbuka vs Tertutup
Meskipun ada kekhawatiran, penulis artikel asli tidak yakin bahwa opini dan petisi ini akan banyak menghentikan kebangkitan OpenAI dan Anthropic. Sebagian besar sektor ekonomi mengandalkan dua raksasa AI untuk memiliki IPO yang sukses, dan tidak ada yang—apalagi pemerintahan Trump—tertarik untuk mengacaukannya. Namun, industri teknologi semakin gugup tentang laju pengembangan AI tertutup, dan hal itu tidak mungkin berubah dalam waktu dekat.
Di sisi lain, model open source juga menunjukkan perkembangan yang mengesankan. Black Forest Labs, startup Jerman yang merilis generator gambar dan video AI open weight paling populer di dunia, mengumumkan pekan lalu bahwa mereka merilis model baru yang juga dapat menggerakkan robot. Startup ini bertujuan merilis versi terbuka Flux 3 dalam beberapa minggu mendatang, yang dapat digunakan pengembang untuk menghasilkan gambar, video, dan audio, serta memprediksi aksi robot.
“Kami jelas melangkah dari laboratorium generasi gambar murni ke laboratorium AI multimodal frontier, yang sangat penting bagi saya,” kata CEO Black Forest Labs Robin Rombach dalam wawancara. “Kami menunjukkan intuisi yang selalu dimiliki tim riset kami, yaitu bahwa model-model ini sangat umum dan mengembangkan pemahaman yang solid tentang dunia nyata.”
Black Forest Labs adalah startup terbaru yang menerapkan model video AI-nya ke dunia fisik. Sebelumnya, OpenAI menghentikan produk generasi video AI Sora dan menggabungkan tim di belakangnya ke unit robotika rahasia perusahaan. Startup video AI lain, seperti Runway, juga telah mendorong ke dalam penggerak robotika dalam beberapa tahun terakhir. Perusahaan-perusahaan ini bertaruh bahwa model video AI dapat mengembangkan pemahaman tentang fisika dunia nyata.
Rombach mengatakan Flux 3 melewatkan lapisan bahasa sepenuhnya, menerjemahkan video langsung ke dalam tindakan, pendekatan yang menurutnya lebih kuat. Black Forest Labs bekerja sama dengan startup lain, Mimic, untuk membangun versi kustom Flux 3 yang menggerakkan robot pembuat mobil di pabrik Audi. Stephan Gravert, kepala produk Mimic, mengatakan timnya saat ini menguji dan menerapkan model AI Flux-Mimic dengan Audi. Timnya menemukan bahwa model itu sangat baik dalam menggerakkan tangan robot untuk memasang bagian fleksibel—seperti segel jendela dan kabel—ke mobil.
Ditanya tentang perdebatan AI terbuka versus tertutup, Rombach dengan tegas menyatakan, “Larangan umum model open weight, menurut saya, akan menjadi bodoh. Anda benar-benar menghadapi masalah transparansi, keamanan, kedaulatan, dan kecepatan inovasi. Saya pikir itu akan menjadi keputusan yang sangat picik.”
Pendiri Black Forest Labs telah lama bersaing dengan raksasa AI Amerika seperti Meta, Google, dan OpenAI dengan sumber daya yang jauh lebih sedikit. Namun, mereka mungkin tidak akan mampu melakukannya tanpa batas waktu: Rombach mengatakan startupnya menggunakan lebih banyak daya komputasi daripada sebelumnya untuk melatih Flux 3, dan kini memiliki lebih dari 100 karyawan. Black Forest Labs mengumpulkan dana $300 juta dengan valuasi $3,25 miliar tahun lalu, tetapi kemungkinan akan membutuhkan lebih banyak modal untuk terus bersaing.
Untuk informasi lebih lanjut tentang perkembangan terkini di dunia teknologi, Anda dapat membaca artikel tentang Xiaomi 17T Pro yang mendukung AirDrop atau daftar HP Android dengan fitur serupa.