JBNews.id — Kanal media sosial kini dibanjiri oleh akun-akun AI influencer yang semakin sulit dibedakan dari manusia sungguhan. Fenomena ini mengancam keaslian interaksi di platform digital dan menimbulkan pertanyaan serius tentang masa depan media sosial.
Dari sekadar eksperimen digital yang mudah dikenali, AI influencer telah berevolusi menjadi entitas yang hampir sempurna dalam meniru perilaku manusia. Akun-akun ini tidak lagi hanya memposting konten dari restoran mewah atau festival musik, tetapi kini aktif menjual produk murahan, menyebarkan disinformasi, hingga menjalankan skema penipuan.
Dari Lil Miquela hingga Aitana Lopez: Evolusi AI Influencer
Pada awalnya, AI influencer seperti Lil Miquela, Imma, dan Shudu Gram mudah dikenali sebagai produksi digital. Mereka membutuhkan studio, koordinasi tim, dan biaya produksi yang besar. Namun, perkembangan teknologi telah mengubah segalanya. Karakter seperti Emily Pellegrini dan Aitana Lopez kini tampak lebih realistis, mendekati tampilan para influencer manusia pada umumnya.
Aitana Lopez sendiri merupakan produk dari agensi kreatif Spanyol, The Clueless, yang mengelola sekelompok AI influencer. Sementara itu, pencipta Emily Pellegrini yang menggunakan nama samaran Professor EP, sebelumnya mengelola kreator OnlyFans dan kini menjual kursus tentang cara membuat AI influencer sendiri. Hal ini menunjukkan bahwa industri ini telah menjadi lahan bisnis yang menggiurkan.
Namun, perkembangan ini tidak lepas dari kontroversi. Beberapa AI influencer dibangun berdasarkan identitas spesifik seperti ras, disabilitas, dan politik. Shudu Gram, misalnya, adalah model AI berkulit hitam yang diciptakan oleh seorang pria kulit putih. Sementara Emily Pellegrini dibuat menggunakan konten yang dilisensikan dari kreator OnlyFans anonim.
Skala Masalah yang Tak Terukur
Skala pengaruh AI influencer sulit diukur secara pasti. Platform media sosial tidak mempublikasikan data jumlah pengguna palsu, dan sebagian besar avatar AI tidak cukup populer untuk mendapat perhatian media. Database seperti Virtual Humans memang melacak ratusan avatar populer, tetapi itu hanyalah puncak gunung es dari lautan akun yang terbang di bawah radar.
Teknologi pembuatan AI influencer juga telah meningkat secara dramatis. Gambar diam dari orang palsu kini cukup meyakinkan untuk lolos dari pengamatan sekilas, terutama di tengah deretan konten influencer manusia yang juga menggunakan filter dan efek editing. Video dan audio juga menyusul, memberikan suara dan gerakan yang bisa mengelabui pengguna yang tidak teliti.
Alat-alat untuk membuat AI influencer tidak lagi mahal atau sulit diakses. Produk-produk utama dari perusahaan seperti Google dan OpenAI kini bersaing dengan layanan khusus dari Higgsfield, HeyGen, dan ElevenLabs. Dengan sedikit usaha, hampir semua orang bisa membuat AI influencer tanpa perlu studio atau peralatan khusus.
Kebijakan Platform yang Ambigu
Platform media sosial seperti YouTube, TikTok, dan Instagram menghadapi dilema besar. Di satu sisi, mereka mengembangkan aturan untuk pelabelan konten sintetis. Di sisi lain, mereka juga mempromosikan alat AI mereka sendiri yang bisa mengkloning atau meniru pengguna. Kebijakan ini cenderung fokus pada konten individual, bukan pada akun dan persona di baliknya, meninggalkan AI influencer dalam zona abu-abu.
Platform tampaknya puas hidup dalam ambiguitas ini. Mereka tidak sepenuhnya menyambut atau menolak kreator AI. Posisi kontradiktif ini terlihat dari promosi AI sebagai alat kreatif sambil berusaha menghentikan gelombang konten murahan yang membanjiri layanan mereka.
Dalam ketidakpastian ini, ekosistem AI influencer justru berkembang pesat. Beberapa firma riset pasar memperkirakan pasar influencer virtual bisa mencapai lebih dari 60 miliar dolar AS pada tahun 2030, naik dari sekitar 12 miliar dolar AS saat ini. Fenomena ini mirip dengan demam emas online, dengan sedikit kisah sukses dan banyak orang yang menjual peralatan.
Baca Juga:
Dampak Ekonomi dan Budaya
Pasar AI influencer tidak hanya bernilai miliaran dolar, tetapi juga telah menciptakan ekosistem baru. Ada penghargaan khusus untuk AI influencer, kontes kecantikan virtual, agensi bakat yang mewakili kreator sintetis, dan pasar yang berkembang untuk kursus dan alat pembuatan influencer palsu. Semua ini dijanjikan sebagai sumber pendapatan pasif tanpa perlu menunjukkan wajah asli.
Namun, model bisnis ini memiliki aroma skema piramida. Beberapa orang sukses di permukaan, sementara mayoritas lainnya hanya menjual peralatan dan kursus. Pertanyaannya, seberapa berkelanjutan model ini jika sebagian besar AI influencer dibangun hanya untuk menghasilkan uang dari pengguna manusia?
Masa Depan Media Sosial di Persimpangan Jalan
Kekhawatiran utama adalah bahwa media sosial bisa runtuh karena beban akun palsu ini. Jika pengguna manusia terusir, jaringan akan kehilangan elemen sosialnya. Platform mungkin perlu mengambil langkah tegas sebelum titik kritis tercapai.
Tekanan publik terhadap AI Gagal Total dalam berbagai aspek, termasuk deepfake dan spam sintetis, mulai memaksa regulator untuk memberikan perhatian lebih serius. Eropa melalui AI Act-nya bisa menjadi pendorong perubahan, terutama dengan kewajiban transparansi untuk konten yang dihasilkan AI.
Platform tampaknya lebih memilih untuk menunggu dan melihat apa yang terjadi. Bagi mereka, engagement tetaplah engagement, baik dari kreator palsu maupun asli. Selama kreator sintetis terus memposting dan tidak melanggar aturan yang ada, tampaknya tidak ada insentif untuk bertindak tegas.
Namun, ada tanda-tanda bahwa kesabaran pengguna mulai habis. Banyak platform telah mendelegasikan tugas moderasi konten AI kepada pengguna, mengandalkan mereka untuk melaporkan profil mencurigakan. Tapi moderasi mandiri adalah solusi yang buruk dan tidak berkelanjutan untuk sesuatu yang dirancang untuk luput dari perhatian.
Implikasi untuk Pengguna
Fenomena AI influencer membawa implikasi serius bagi pengguna media sosial biasa. Kemampuan untuk membedakan antara interaksi nyata dan palsu menjadi semakin sulit. Ini bukan hanya masalah kenyamanan, tetapi juga masalah keamanan dan kepercayaan.
AI influencer telah digunakan untuk menjual produk dropship murahan, menipu pria dengan foto palsu, menyebarkan disinformasi, dan melayani konten seksual yang semakin aneh. Beberapa AI influencer bahkan memiliki PMGO S1 dengan hadiah fantastis, menunjukkan bagaimana teknologi ini dimanfaatkan untuk berbagai tujuan.
Jika platform menolak untuk membuat batasan yang jelas antara yang nyata dan tidak nyata, pengguna mungkin akan membuat batasan mereka sendiri. Sudah ada permintaan yang berkembang untuk ruang bebas AI. Tren ini bisa menjadi kekuatan yang mendorong perubahan kebijakan platform di masa depan.
Pada akhirnya, pertanyaan terbesarnya adalah: bisakah media sosial bertahan jika dibanjiri oleh entitas buatan? Atau akankah pengguna manusia mencari alternatif yang lebih autentik? Jawabannya mungkin akan menentukan masa depan interaksi sosial digital kita.