JBNews.id — Empat pemimpin perusahaan kecerdasan buatan (AI) terkemuka dunia menandatangani surat terbuka yang mendesak pemerintah untuk mewajibkan perusahaan penjual DNA dan RNA sintetis melakukan screening ketat terhadap pelanggan dan pesanan. Langkah ini bertujuan mencegah penyalahgunaan materi genetik yang diperparah oleh kemajuan AI.
Surat yang diorganisir oleh Institute for Progress dan Foundation for American Innovation ini ditandatangani oleh Demis Hassabis (Google DeepMind), Sam Altman (OpenAI), Dario Amodei (Anthropic), dan Mustafa Suleyman (Microsoft AI). Dalam pernyataannya, mereka mengakui bahwa dengan kecepatan pengembangan AI saat ini, “ada kemungkinan nyata bahwa hambatan pengetahuan yang secara historis mencegah aktor jahat mendapatkan senjata biologis akan terkikis secara signifikan.”
Kekhawatiran ini muncul seiring dengan murahnya biaya sintesis gen. Proses yang pertama kali berhasil dilakukan oleh ilmuwan Arthur Kornberg pada tahun 1950-an kini telah sepenuhnya otomatis. Puluhan perusahaan di seluruh dunia menggunakan synthesizer komersial untuk “mencetak” dan menjual sekuens genetik khusus yang digunakan untuk penelitian ilmiah, pengembangan obat, dan diagnostik.
Banyak penyedia layanan menjual hanya kepada peneliti kualifikasi, perusahaan bioteknologi, dan institusi pendidikan. Namun, tidak semuanya melakukan verifikasi terhadap pelanggan atau sekuens gen yang dipesan. Pada tahun 2017, para peneliti Kanada menimbulkan kekhawatiran saat mereka menggunakan DNA pesanan pos senilai $100.000 untuk merekonstitusi virus horsepox yang sudah punah. Kritikus menyatakan metodologi yang sama dapat digunakan untuk membangun virus cacar (smallpox), virus yang sangat terkait dan mematikan.
Sejak saat itu, biaya sintesis gen terus menurun. Ditambah dengan kemajuan AI, kini dimungkinkan untuk merancang racun dan patogen berbahaya baru menggunakan large language model. Meskipun pelatihan biologi mungkin masih diperlukan untuk membuat virus fungsional dari awal, risiko penyalahgunaan dinilai semakin nyata.
Risiko Pandemi Buatan AI
Meskipun serangan bioteror masih jarang terjadi, potensi dampaknya sangat besar: korban massal, kepanikan publik, dan kerugian ekonomi. Kekhawatiran utama adalah bahwa patogen yang dirancang AI dapat secara sengaja atau tidak sengaja memicu pandemi global. David Relman, ahli mikrobiologi dan keamanan hayati di Stanford University yang turut menandatangani surat, menjelaskan bagaimana AI mempermudah aksi jahat.
“Alat AI memungkinkan pengguna dengan sangat cepat mengidentifikasi ke mana harus memesan sekuens yang tidak akan menjalani screening,” ujar Relman. “Jika diminta dengan tepat, mereka juga dapat memberi tahu cara mengubah sifat pesanan Anda, sehingga bahkan mereka yang melakukan screening pun mungkin tidak dapat mendeteksi apa yang Anda coba buat.”
Para penandatangan surat juga mencakup ilmuwan lain, pakar keamanan nasional, serta eksekutif dari perusahaan sintesis gen seperti Twist Bioscience dan Ansa Biotechnologies. Perusahaan-perusahaan ini adalah anggota International Gene Synthesis Consortium yang dibentuk pada 2009 untuk menerapkan praktik screening sukarela. Banyak perusahaan sudah menggunakan perangkat lunak untuk memeriksa pesanan terhadap “sekuens yang menjadi perhatian” yang dapat berkontribusi pada toksisitas organisme atau kemampuannya menyebabkan penyakit.
“Jika Anda memiliki teknologi yang mampu mensintesis DNA, maka Anda harus memastikan teknologi itu digunakan secara bertanggung jawab. Bagian dari itu adalah memastikan Anda memahami apa yang Anda buat dan untuk siapa Anda membuatnya,” kata James Diggans, wakil presiden kebijakan dan keamanan hayati di Twist Bioscience. Perusahaan telah mendukung penerapan aturan formal selama bertahun-tahun.
Pemerintah federal AS sebenarnya telah memperkenalkan pedoman selama era pemerintahan Biden yang mewajibkan ilmuwan dan perusahaan yang menerima dana federal untuk memesan sekuens gen sintetis dari penyedia yang melakukan screening pembelian. Sebuah rancangan undang-undang bipartisan yang diperkenalkan awal tahun ini di Senat akan mewajibkan semua penyedia sintesis gen yang beroperasi di AS untuk melakukan screening terhadap pesanan dan pelanggan guna mendeteksi aktor jahat atau patogen berbahaya.
Namun, alat screening tidaklah sempurna. Tahun lalu, para peneliti Microsoft menerbitkan studi yang menunjukkan bahwa alat desain protein AI mampu menghasilkan sekuens gen berbahaya yang lolos dari perangkat lunak screening perusahaan. Model-model tersebut menyarankan sekuens protein baru dengan struktur yang mirip dengan protein yang diketahui berbahaya.
Geoff Ralston, mantan presiden Y Combinator dan mitra di Safe AI Fund, berpendapat bahwa laboratorium AI dengan model biologi harus melakukan screening sendiri terhadap pengguna mereka. “Seharusnya sangat sulit, bahkan tidak mungkin, untuk meminta model membantu Anda melakukan sesuatu yang sangat berbahaya,” ujar Ralston yang juga menandatangani surat tersebut.
Relman setuju bahwa regulasi seputar prosedur screening hanyalah bagian dari solusi. “Mengingat bahwa screening mungkin gagal dalam beberapa kasus, kita harus memiliki titik kontrol lain,” katanya. “Di situlah perusahaan AI harus mengambil langkah lebih lanjut.”
Langkah para pemimpin AI ini menunjukkan kesadaran industri akan urgensi pengaturan keamanan hayati di era AI. Surat terbuka tersebut menjadi sinyal kuat bagi pemerintah di seluruh dunia untuk segera merumuskan regulasi yang mengikat, bukan sekadar sukarela. Bagi industri bioteknologi dan AI, implikasinya jelas: keamanan hayati harus menjadi prioritas utama sebelum teknologi melampaui kemampuan pengawasan manusia.
Perkembangan ini juga berdampak pada dinamika industri AI secara lebih luas. IPO Raksasa AI yang direncanakan oleh beberapa perusahaan seperti Anthropic dan OpenAI kini mendapat sorotan baru terkait tata kelola risiko. Sementara itu, investasi properti yang terkait dengan perusahaan AI juga menunjukkan betapa besarnya ekspektasi pasar terhadap sektor ini.