JBNews.id — Kecerdasan buatan atau AI chatbot terbukti lebih efektif membangun kepercayaan korban penipuan dibandingkan manusia. Temuan ini berasal dari penelitian empat universitas yang menguji kemampuan AI dalam skema penipuan “pig butchering”.
Peneliti dari Amrita Vishwa Vidyapeetham di India, Foscari University of Venice, University of Melbourne, dan Ben Gurion University of the Negev melakukan studi komprehensif tentang penggunaan chatbot AI dalam industri penipuan. Skema yang diteliti adalah “pig butchering,” yaitu penipuan romantis berbasis teks yang berujung pada investasi kripto palsu. Korban bisa kehilangan dana hingga enam digit angka.
Dalam simulasi, peneliti membandingkan langsung AI chatbot dengan manusia dalam proses penipuan. Fokusnya adalah tahap membangun hubungan dan kepercayaan, yang dalam skenario nyata bisa berlangsung berbulan-bulan. Hasilnya, AI chatbot berhasil menyamar sebagai manusia dan bahkan mengungguli “penipu” manusia dalam eksperimen tersebut.
Setelah seminggu berkomunikasi dengan 22 subjek uji yang tidak sadar menjadi “korban,” chatbot dan penipu manusia diminta mengajak korban mengunduh aplikasi atau bermain game daring. Hampir setengah subjek uji memenuhi permintaan AI chatbot, sementara kurang dari satu dari lima subjek yang merespons ajakan manusia. Subjek juga memberikan skor kepercayaan lebih tinggi kepada AI bot.
“Dengan upaya yang relatif kecil, kami mampu membuat agen yang bisa mengungguli manusia dalam membangun kepercayaan emosional yang eksploitatif,” ujar Yisroel Mirsky, profesor ilmu komputer di Ben Gurion University of the Negev yang fokus pada keamanan AI.
Model Penipuan Hook, Line, and Sinker
Untuk memahami praktik pig butchering, peneliti mewawancarai 145 mantan pekerja penipuan, termasuk korban perdagangan manusia yang dipaksa bekerja di kompleks penipuan di Kamboja, Myanmar, dan Laos. Berdasarkan wawancara serta transkrip penipuan, peneliti menggambarkan model penipuan “hook, line, and sinker.”
Korban dipancing dengan pesan awal yang menarik, diikat dengan percakapan membangun hubungan jangka panjang, dan baru pada akhirnya ditipu untuk melakukan investasi palsu. Istilah “pig butchering” sendiri menggambarkan sistem yang sama dengan metafora menggemukkan “babi” sebelum “menyembelihnya.”
Dalam sistem ini, sebagian besar pekerjaan penipu adalah percakapan ramah atau romantis yang tidak berbahaya. Tugas ini, menurut dugaan peneliti, bisa dilakukan AI chatbot dengan baik. Pekerja penipuan mengonfirmasi mereka sering menggunakan AI untuk memperhalus bahasa, menerjemahkan, membuat persona palsu lebih meyakinkan, dan untuk deepfake video.
Peneliti kemudian menguji apakah AI chatbot bisa secara otonom menjalankan fase percakapan penipuan tanpa campur tangan manusia. Hasilnya, 46 persen subjek penelitian setuju mengunduh aplikasi yang diminta AI chatbot, sementara hanya 18 persen yang mengunduh game yang diminta manusia. Subjek juga memberikan skor kepercayaan rata-rata 3,78 untuk AI, lebih tinggi dari 3,31 untuk manusia. Dari semua pesan teks yang dikirim subjek, 80 persen dikirim ke chatbot.
Baca Juga:
Bypass Safeguard dan Respons Vendor
Untuk menghindari sistem keamanan yang tertanam di model bahasa besar (LLM), penipu manusia bisa mengambil alih percakapan hanya di tahap akhir. “Dengan menjalankan tahap pertama penipuan secara otomatis menggunakan LLM dalam skala besar, korban dibawa ke titik kepercayaan yang sangat tinggi. Kemudian beralih ke penipu manusia di akhir, ini sepenuhnya melewati safeguard vendor,” jelas Mirsky.
Dalam studi terpisah, peneliti juga menguji kemampuan berbagai LLM menyamar sebagai manusia. Google Gemini 3.1 Pro berperan sebagai manusia tanpa pernah mengaku sebagai AI. Sementara OpenAI ChatGPT 5.5 dan Claude Opus 5 mengaku sebagai AI saat dihadapkan pada perintah tertentu. Gemini tidak mengaku sebagai AI bahkan saat diminta.
Ketika WIRED menghubungi Anthropic, OpenAI, dan Google, Anthropic memberikan pernyataan bahwa kebijakan perusahaan melarang penggunaan platform untuk penipuan dan menyamar sebagai manusia. “Laporan ini tidak mencerminkan kondisi safeguard kami saat ini,” bunyi pernyataan Anthropic, mencatat studi dilakukan dengan model Claude awal 2025 yang sudah tidak tersedia. “Sejak saat itu, kami telah menerapkan sistem deteksi baru untuk penipuan.”
Peneliti mencatat, tingkat deteksi 97 persen Anthropic kemungkinan berlaku untuk percakapan penipuan penuh, bukan fase membangun hubungan yang menjadi fokus studi mereka. Temuan tentang kesediaan Claude menyamar sebagai manusia dilakukan dengan versi terbaru chatbot Anthropic.
Dampak dan Implikasi Industri Penipuan
Efisiensi penggunaan AI untuk membangun hubungan dalam penipuan kontras dengan temuan survei pekerja penipuan. Mereka masih menggunakan LLM hanya sebagai alat tambahan. Peneliti menyimpulkan bahwa perdagangan manusia mungkin masih lebih murah dan lebih menguntungkan bagi organisasi penipuan. Ini karena tenaga kerja hampir gratis, dan korban perdagangan manusia kadang ditebus di akhir masa kerja mereka.
“Mungkin mereka belum merasa perlu untuk mengotomatisasi,” kata Mirsky. “Ini bukan hanya tenaga kerja gratis, mereka juga mendapatkan uang dari orang-orang itu.”
Erin West, mantan jaksa Santa Clara County, California, yang kini memimpin organisasi anti-penipuan Operation Shamrock, mengatakan industri penipuan mungkin akan segera beralih ke otomatisasi AI. “Kita harus sangat khawatir dengan apa yang ditunjukkan studi ini,” ujar West. Penggunaan AI chatbot secara luas bisa mengurangi perdagangan manusia, tetapi juga membuat operasi penipuan jauh lebih sulit dilacak dengan menghilangkan kebutuhan infrastruktur besar seperti kompleks di Asia Tenggara.
“Salah satu titik lemah mereka adalah mendapatkan orang dan harus memelihara serta memantau mereka. Sekarang mereka tidak perlu melakukan itu,” kata West. “Jendela besar kita untuk melihat apa yang mereka lakukan adalah kompleks penipuan yang jelas terlihat. Sekarang, mereka bisa melakukan ini di apartemen dua kamar seseorang.”
Peneliti menekankan bahwa temuan ini menjadi peringatan serius bagi publik dan regulator. Kemampuan AI chatbot membangun kepercayaan yang eksploitatif membutuhkan respons cepat dari platform dan penegak hukum. Masyarakat juga perlu meningkatkan kewaspadaan terhadap interaksi daring yang mencurigakan, terutama yang melibatkan permintaan mengunduh aplikasi atau melakukan investasi.