JBNews.id — Sebuah laporan yang dirilis KPMG, salah satu firma konsultan terbesar di dunia, justru dipenuhi klaim palsu yang diduga merupakan hasil halusinasi kecerdasan buatan (AI). Temuan ini menjadi ironi di tengah gencarnya kampanye konsultan tersebut tentang kehebatan teknologi AI.
Laporan bertajuk “Redefining Excellence in the Age of Agentic AI” yang dirilis pada Oktober lalu itu seharusnya menjadi pujian atas kegunaan AI. Namun, berdasarkan investigasi Financial Times, dokumen tersebut dipenuhi pernyataan palsu yang tidak dapat diverifikasi kebenarannya. Kejadian ini menjadi tamparan telak bagi antusiasme berlebihan para profesional elite Wall Street terhadap teknologi AI.
Dalam laporannya, KPMG mengklaim sejumlah organisasi besar telah menggunakan AI secara luar biasa. Disebutkan bahwa UBS, perusahaan manajemen kekayaan global, “mengintegrasikan AI agen di seluruh penasihat investasi, manajemen risiko, dan pemantauan kepatuhan.” Swiss Federal Railways juga diklaim memiliki AI agen yang membantu pengguna merencanakan, memesan, dan mengoptimalkan perjalanan. Sementara Transport for London disebut menggunakan AI untuk memprediksi kemacetan dan mengoordinasikan transportasi multimodal.
Namun, setelah ditelusuri oleh startup pendeteksi AI, GPTZero, semua klaim tersebut ternyata tidak benar. Juru bicara UBS menyatakan pernyataan tentang AI agen itu “secara faktual tidak akurat.” Swiss Federal Railways juga menegaskan klaim serupa “tidak akurat.” Transport for London bahkan menyebut pernyataan KPMG “menyesatkan.”
Satu klaim palsu lainnya menyebut NHS Greater Manchester menggunakan AI agen untuk melakukan triase pasien dan memprediksi readmisi rumah sakit. Klaim ini ternyata merupakan hasil permainan telepon klasik AI, yang didasarkan pada siaran pers tentang alat AI untuk memerangi kanker paru-paru—sama sekali tidak terkait dengan tugas rumah sakit yang disebutkan.
KPMG telah menarik laporan tersebut dari situsnya setelah diberitahu tentang klaim palsu ini. Namun, kerusakan telah terjadi: temuan tersebut sudah dikutip oleh publikasi industri dan surat kabar besar Ceko. CEO GPTZero, Edward Tian, memperingatkan bahwa fabrikasi AI dari konsultan sekelas KPMG “meracuni sumber informasi” dan meningkatkan “risiko halusinasi tangan kedua.”
Kejadian ini bukanlah yang pertama kalinya. Pengacara dari firma hukum terkemuka juga berulang kali tertangkap mengajukan dokumen pengadilan yang dipenuhi studi kasus palsu dan kutipan yang salah akibat halusinasi AI. Seorang hakim bahkan pernah membatalkan seluruh persidangan setelah mengetahui pengacara dari kedua belah pihak menggunakan AI.
Di tengah kepanikan eksistensial di industri konsultan, banyak firma justru semakin gencar mengadopsi AI. McKinsey dilaporkan telah menerapkan 12.000 AI agen di seluruh perusahaannya tahun lalu, tak lama setelah memecat sekitar 5.000 karyawan. Nvidia Konfirmasi telah merilis tiga generasi prosesor RTX Spark yang dirancang khusus untuk menangani beban kerja AI agen, menunjukkan bahwa investasi di bidang ini terus berlanjut meskipun ada risiko.
Implikasinya jelas: di tengah hiruk-pikuk adopsi AI, verifikasi data menjadi semakin krusial. Pengguna teknologi harus tetap kritis terhadap klaim-klaim yang beredar, terutama yang berasal dari sumber yang seharusnya dapat dipercaya. Serangan Siber dan kesalahan data seperti ini menunjukkan bahwa keandalan informasi di era AI masih menjadi tantangan besar.
Kasus KPMG ini menjadi pengingat bahwa teknologi AI, meskipun menjanjikan, masih memiliki keterbatasan serius. Perusahaan dan individu harus lebih berhati-hati dalam mengandalkan output AI tanpa verifikasi yang memadai. Kegagalan verifikasi seperti ini tidak hanya merusak kredibilitas, tetapi juga berpotensi menimbulkan kerugian besar bagi pengambil keputusan yang bergantung pada informasi tersebut.