JBNews.id — Google resmi menghentikan fitur pengeditan citra satelit berbasis kecerdasan buatan di Google Earth hanya satu hari setelah diluncurkan, menyusul penyalahgunaan yang menghasilkan deepfake dunia nyata. Fitur yang memungkinkan pengguna mengedit gambar satelit dengan perintah teks ini ditarik setelah muncul laporan konten yang melanggar kebijakan, termasuk simulasi bom di Gaza dan pengungsi di perbatasan Meksiko.
Keputusan ini diambil setelah peneliti keamanan digital Henk van Ess dari Digital Digging menunjukkan bahwa fitur tersebut dapat dimanfaatkan untuk membuat gambar manipulatif. Van Ess sengaja menghasilkan gambar yang menambahkan pengungsi di dekat perbatasan Meksiko dan kawah bom di dekat rumah sakit di Gaza, membuktikan bahwa fitur ini dapat disalahgunakan untuk menyebarkan informasi palsu.
Pada Kamis, Google awalnya merespons temuan van Ess dengan menyatakan bahwa gambar yang dihasilkan melalui fitur Nano Banana 2 di Google Earth telah dilengkapi watermark digital. Perusahaan juga mengklaim telah mencegah “pembuatan gambar pada topik yang berbahaya.” Namun, satu hari kemudian, Google mengubah sikapnya dengan menarik fitur tersebut sepenuhnya.
Pernyataan Resmi Google
Dalam pernyataan terbarunya, Google mengakui bahwa kepercayaan pengguna terhadap Google Earth sebagai representasi dunia yang andal adalah prioritas utama. “Kami tahu bahwa orang-orang secara unik mempercayai Google Earth untuk tampilan dunia yang andal,” tulis Google. “Kami telah melihat para profesional geospasial menggunakan fitur ini untuk berbagai tujuan yang berguna, namun kami juga melihat orang-orang membagikan tangkapan layar dari gambar yang dihasilkan yang tampaknya melanggar kebijakan kami.”
Google menegaskan bahwa langkah ini diambil sementara untuk “menerapkan pengaman yang lebih kuat.” Perusahaan juga menekankan bahwa gambar yang dihasilkan tidak muncul di pengalaman utama Google Earth untuk dilihat orang lain dan telah diberi watermark sebagai konten yang dihasilkan AI.
Meskipun demikian, van Ess menunjukkan bahwa ia berhasil mengelabui alat deteksi AI milik Hive dengan video yang dihasilkan di Google Earth. Hal ini membuktikan bahwa media yang dihasilkan dapat menyebar meskipun telah diberi watermark. Dalam pengujiannya, van Ess menyatakan, “Tidak ada yang ditolak, tidak ada yang dilunakkan, dan tidak ada yang menyarankan saya untuk mencoba perintah yang berbeda.”
Langkah Google ini menjadi sorotan di tengah meningkatnya kekhawatiran tentang penyalahgunaan AI generatif. Perusahaan teknologi besar terus berupaya menyeimbangkan inovasi dengan tanggung jawab etis, terutama ketika menyangkut representasi visual dunia nyata. Kasus ini juga menjadi pengingat bahwa teknologi AI yang kuat memerlukan pengawasan ketat sebelum dirilis ke publik.
Seiring dengan perkembangan kebijakan AI global, pengguna dan pengamat industri akan mencermati bagaimana Google merancang ulang fitur ini dengan pengaman yang lebih ketat. Sementara itu, kasus ini menegaskan bahwa moderasi konten AI tetap menjadi tantangan besar bagi platform digital di seluruh dunia.
Baca Juga:
Kasus penarikan fitur ini menunjukkan bahwa Google menghadapi dilema antara menghadirkan inovasi AI yang canggih dan menjaga integritas platformnya. Chat Claude publik yang muncul di pencarian Google sebelumnya juga memicu perdebatan serupa tentang bagaimana konten AI dikelola di ekosistem Google.
Bagi pengguna yang mengandalkan Google Earth untuk kebutuhan profesional, keputusan ini berarti fitur edit AI tidak akan tersedia untuk sementara waktu. Google belum memberikan jadwal pasti kapan fitur tersebut akan kembali dengan pengaman yang lebih baik. Perusahaan hanya menyatakan akan terus bekerja pada “penerapan pengaman yang lebih kuat” sebelum mempertimbangkan untuk meluncurkan kembali fitur tersebut.
Para ahli keamanan digital menilai bahwa kasus ini menjadi pelajaran penting bagi industri teknologi. Fitur AI yang memungkinkan manipulasi citra satelit membawa risiko besar, terutama jika digunakan untuk menyebarkan disinformasi tentang konflik, bencana, atau situasi darurat lainnya. Kemudahan penggunaan yang ditawarkan oleh fitur semacam ini justru menjadi celah bagi pihak yang berniat jahat.
Google Earth selama ini dikenal sebagai platform yang menyajikan citra satelit yang akurat dan dapat dipercaya. Dengan adanya fitur edit AI, posisi ini menjadi terancam karena pengguna tidak lagi dapat membedakan antara citra asli dan hasil manipulasi. Meskipun Google telah menambahkan watermark, van Ess membuktikan bahwa watermark tersebut tidak cukup untuk mencegah penyebaran konten yang menyesatkan.
Ke depan, Google perlu mempertimbangkan pendekatan yang lebih ketat, seperti verifikasi dua langkah, pembatasan topik sensitif, atau bahkan pelibatan moderator manusia sebelum gambar dapat dibagikan. Tanpa langkah-langkah ini, risiko penyalahgunaan akan tetap tinggi meskipun fitur diluncurkan kembali.
Keputusan Google untuk menarik fitur ini juga berdampak pada ekosistem AI secara lebih luas. Perusahaan lain yang tengah mengembangkan fitur serupa akan belajar dari kasus ini bahwa peluncuran teknologi AI tanpa pengaman yang memadai dapat berujung pada kerugian reputasi dan kepercayaan pengguna.
Sementara itu, pengguna yang tertarik dengan perkembangan AI Google dapat menyimak berbagai inovasi lain yang masih tersedia. Google terus menghadirkan produk AI baru di berbagai lini, meskipun kasus ini menunjukkan bahwa tidak semua fitur siap dirilis tanpa evaluasi yang lebih mendalam.
Kasus penarikan fitur ini juga menjadi pengingat bahwa regulasi AI semakin mendesak untuk dipercepat. Pemerintah di berbagai negara, termasuk Indonesia, mulai merancang kerangka regulasi untuk mengatur penggunaan AI. Kasus seperti ini akan menjadi bahan pertimbangan penting dalam penyusunan kebijakan tersebut.
Bagi masyarakat umum, langkah Google ini adalah kabar baik dalam hal perlindungan dari informasi palsu. Namun, ini juga menunjukkan bahwa teknologi AI generatif masih jauh dari sempurna dalam hal keamanan dan etika. Pengguna tetap perlu waspada terhadap konten yang beredar, termasuk yang diklaim berasal dari platform tepercaya seperti Google Earth.
Google belum mengumumkan apakah pengguna yang telah mencoba fitur tersebut akan mendapatkan kompensasi atau penjelasan lebih lanjut. Yang jelas, perusahaan berkomitmen untuk memulihkan kepercayaan pengguna terhadap Google Earth sebagai sumber citra satelit yang andal dan akurat.
Keputusan cepat Google untuk menarik fitur ini patut diapresiasi sebagai bentuk responsivitas terhadap risiko yang muncul. Namun, pertanyaan besarnya adalah bagaimana Google akan merancang pengaman yang efektif tanpa mengurangi kegunaan fitur bagi profesional geospasial yang membutuhkannya untuk pekerjaan mereka.
Hingga saat ini, belum ada informasi resmi mengenai timeline peluncuran kembali fitur tersebut. Google hanya menyatakan bahwa penarikan dilakukan sementara waktu. Pengguna dan pengamat akan terus memantau perkembangan selanjutnya dari kasus ini.