JBNews.id — Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengungkapkan bahwa maraknya penipuan digital menggunakan teknologi deepfake AI mendorong pemerintah untuk memperkuat literasi digital dan menerapkan protokol etika yang ketat dalam pengembangan kecerdasan buatan. Pernyataan ini disampaikan Nezar di Jakarta, Kamis (18/6/2026), merespons semakin canggihnya modus kejahatan siber yang memanfaatkan AI untuk meniru wajah, suara, hingga video seseorang.
Menurut Nezar, perkembangan AI telah berlangsung sangat cepat dan melampaui fase generative AI menuju era agentic AI. Teknologi ini memiliki kemampuan lebih mandiri dalam melakukan penalaran dan pengambilan keputusan. Meskipun menawarkan manfaat besar bagi sektor bisnis, pendidikan, kesehatan, dan pemerintahan, kemajuan ini juga membawa risiko serius yang harus diantisipasi.
“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujar Nezar dalam pernyataannya. Ia menekankan bahwa hasil manipulasi AI kini telah berkembang menjadi synthetic reality atau realitas sintetik, yaitu konten digital yang tampak sangat nyata sehingga sulit dibedakan dari aslinya.
Dalam konteks keamanan siber, Nezar menyoroti pemanfaatan AI oleh pelaku kejahatan digital untuk menjalankan berbagai modus penipuan online. Teknologi deepfake yang semakin canggih memungkinkan pelaku memalsukan identitas seseorang untuk mengelabui korban. “Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” katanya.
Untuk mengatasi ancaman ini, Nezar menilai peningkatan literasi digital masyarakat menjadi langkah penting. Masyarakat perlu memahami bahwa foto, suara, maupun video yang beredar di ruang digital tidak selalu mencerminkan kondisi sebenarnya. Pemerintah mendorong kolaborasi antara pengembang teknologi, pelaku industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap awal pengembangan.
Baca Juga:
Agentic AI dan Prinsip Human in the Loop
Selain ancaman penipuan digital, Nezar juga menyoroti perkembangan agentic AI yang memiliki kemampuan menjalankan tugas dan mengambil keputusan secara lebih mandiri. Berbagai kalangan akademisi dan pakar teknologi telah mengusulkan penerapan protokol yang lebih ketat untuk memastikan keputusan penting tetap berada dalam kendali manusia.
“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelas Nezar. Prinsip ini mengharuskan adanya keterlibatan manusia dalam proses pengawasan dan pengambilan keputusan akhir, terutama untuk keputusan yang berdampak besar terhadap individu maupun masyarakat.
Nezar menegaskan bahwa pembahasan etika AI saat ini tidak lagi cukup dilakukan secara sukarela. Prinsip-prinsip seperti transparansi, akuntabilitas, keamanan, dan perlindungan pengguna harus menjadi bagian yang melekat sejak tahap perancangan teknologi melalui pendekatan ethics by design.
“Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” tegasnya. Pemerintah mendorong kolaborasi antara pengembang teknologi, pelaku industri, akademisi, dan komunitas pengguna AI dalam memperkuat tata kelola serta mitigasi risiko sejak tahap awal pengembangan.
“Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” pungkas Nezar.
Dampak dan Implikasi bagi Masyarakat
Maraknya penipuan digital berbasis deepfake AI memiliki implikasi langsung bagi masyarakat umum. Dengan kemampuan AI yang semakin canggih, setiap orang berpotensi menjadi korban penipuan identitas. Data dari berbagai sumber menunjukkan bahwa kasus penipuan digital meningkat signifikan seiring dengan adopsi AI yang meluas.
Pemerintah melalui Kementerian Komunikasi dan Digital terus berupaya memperkuat pengawasan dan regulasi di ruang digital. Langkah ini sejalan dengan upaya simulasi serangan siber yang dilakukan oleh berbagai lembaga internasional untuk mengantisipasi ancaman keamanan digital.
Bagi masyarakat, literasi digital menjadi kunci utama dalam menghadapi ancaman deepfake. Memverifikasi setiap konten yang mencurigakan, tidak langsung percaya pada informasi visual atau audio yang belum terverifikasi, serta melaporkan konten mencurigakan ke pihak berwenang adalah langkah-langkah yang bisa dilakukan untuk melindungi diri dari penipuan digital.
Dengan pendekatan ethics by design dan prinsip human in the loop, pemerintah berharap pengembangan AI di Indonesia dapat berjalan seimbang antara inovasi dan perlindungan masyarakat. Kolaborasi antara semua pemangku kepentingan menjadi kunci dalam menciptakan ekosistem digital yang aman dan etis.
Ke depan, pemerintah akan terus mendorong diskusi dan forum-forum yang membahas kebijakan AI yang etis di Indonesia. Hal ini penting untuk memastikan bahwa teknologi AI dapat dimanfaatkan secara optimal tanpa mengorbankan keamanan dan kepentingan masyarakat luas.