JBNews.id — Pengadilan di Jerman memutuskan bahwa Google bertanggung jawab secara hukum atas konten yang dihasilkan oleh fitur ringkasan kecerdasan buatan (AI) miliknya. Keputusan ini menjadi preseden penting yang dapat mengubah lanskap industri teknologi global.
Kasus ini berawal dari laporan yang pertama kali diungkap oleh Decoder. Dua perusahaan penerbit menemukan bahwa ringkasan hasil pencarian yang dihasilkan AI Google mengaitkan mereka, dalam pencarian tertentu, dengan praktik bisnis yang meragukan, penipuan, dan kecurangan terkait langganan. Yang menjadi krusial, tidak ada dasar faktual yang mendukung kaitan tersebut.
Pada awal tahun ini, perusahaan yang terdampak mengirimkan surat penghentian dan penghentian (cease-and-desist) kepada Google. Raksasa teknologi itu membantah bertanggung jawab, dengan alasan bahwa fitur ringkasan otomatisnya memperingatkan pengguna bahwa informasi mungkin mengandung kesalahan dan harus diverifikasi secara independen.
Analisis Pengadilan: AI Menciptakan Pernyataan Baru
Analisis pengadilan menyimpulkan bahwa AI Google menggabungkan informasi dari perusahaan lain yang telah ditandai karena praktik ilegal dengan data dari penggugat. Proses ini menghasilkan asosiasi yang tidak muncul di sumber mana pun yang ditautkan oleh mesin pencari tersebut.
Berbeda dengan mesin pencari tradisional yang hanya menampilkan daftar tautan dengan pernyataan dari pihak ketiga, alat AI Google menghasilkan “pernyataan yang independen, baru, dan substansial” berdasarkan misinterpretasi informasi yang tersedia di internet. Menurut pengadilan, koreksi atas informasi yang salah bukanlah tanggung jawab pihak ketiga.
“Google adalah satu-satunya entitas yang memiliki kemampuan untuk memodifikasi teknologi yang mendasari ringkasan hasil AI-nya dan, oleh karena itu, ‘harus dimintai pertanggungjawaban’,” demikian bunyi putusan pengadilan. Pengadilan juga menemukan bahwa garis pertahanan Google tidak berdasar, karena ringkasan yang dipermasalahkan “berisi pernyataan yang sama sekali tidak muncul dalam hasil pencarian.”
Baca Juga:
Interpretasi Baru yang Kuat tentang AI di Web
Interpretasi pengadilan tentang peran AI dalam menyajikan hasil pencarian dapat menjadikan kasus ini sebagai preseden bersejarah. Putusan ini menempatkan perusahaan teknologi besar sebagai pihak yang bertanggung jawab atas pengaruh pengembangan tercanggih mereka pada platform yang banyak digunakan.
Selama ini, di sebagian besar sistem hukum, mesin pencari dianggap sebagai alat yang hanya memfasilitasi akses ke konten yang dibuat oleh pihak ketiga. Status ini memberikan mereka perlindungan tertentu ketika informasi yang dipublikasikan salah, tidak akurat, menyesatkan, atau bahkan fitnah.
Namun, pengadilan Jerman menegaskan bahwa perlindungan ini tidak lagi berlaku ketika mesin pencari menggabungkan sistem AI generatif. Menurut penalaran pengadilan, teknologi ini mampu menghasilkan klaim yang tidak ada berdasarkan banyak sumber. Konsekuensinya, perusahaan yang bertanggung jawab mengoperasikannya harus menanggung kewajiban atas konten yang dihasilkan.
Para hakim juga menyimpulkan bahwa meskipun Google mendorong pengguna untuk memverifikasi informasi karena potensi halusinasi yang melekat pada model AI, peringatan ini tidak membebaskan distributor konten dari tanggung jawab. Jika tidak, korban pernyataan palsu akan hampir tidak memiliki pembelaan, karena sumber asli tidak pernah membuat pernyataan tersebut dan, oleh karena itu, tidak dapat dituntut secara hukum.
Pengadilan juga menegaskan bahwa hasil yang dihasilkan oleh sistem AI tidak dapat dilindungi di bawah prinsip kebebasan berbicara. Alasannya, hasil tersebut adalah produk dari algoritma yang dirancang, dilatih, dan dikelola oleh perusahaan, bukan ekspresi pendapat individu.
Dampak Global dan Potensi Banding
Sebagai langkah pencegahan, putusan tersebut mewajibkan Google untuk menghapus sebagian besar pernyataan yang dianggap fitnah dalam kasus ini. Google juga harus menanggung 80 persen biaya hukum yang timbul dari proses persidangan.
Seorang juru bicara perusahaan, yang dikutip oleh Ars Technica, mengisyaratkan bahwa keputusan tersebut dapat diajukan banding. “Kami berinvestasi besar-besaran dalam kualitas AI Overviews untuk memastikan bahwa sebagian besar respons memberikan informasi yang akurat, dan dirancang untuk mencerminkan informasi yang ada di web,” demikian pernyataan resmi Google. “Kami sedang meninjau keputusan ini dengan saksama, yang belum final.”
Putusan pengadilan Jerman ini dapat memiliki dampak global bagi industri kecerdasan buatan. Perusahaan seperti OpenAI, Anthropic, dan Perplexity AI juga memperingatkan pengguna bahwa respons yang dihasilkan oleh sistem mereka mungkin mengandung kesalahan atau menyesatkan. Seperti Google, mereka merekomendasikan untuk memverifikasi informasi sebelum menggunakannya.
Peringatan ini biasanya terdapat dalam persyaratan layanan yang disetujui pengguna saat membuat akun di suatu platform. Namun, kasus ini berargumen bahwa peringatan tersebut tidak cukup untuk membebaskan pengembang dari tanggung jawab. Putusan tersebut menegaskan bahwa ketika AI menghasilkan pernyataan baru yang tidak muncul langsung di sumber aslinya, perusahaan yang merancang, melatih, mengoperasikan, dan mengelola sistem harus menanggung tanggung jawab hukum atas segala kerusakan yang disebabkan oleh pernyataan tersebut.
Implikasinya bagi pengguna teknologi sangat jelas. Selama ini, pengguna biasa mungkin mengandalkan ringkasan AI untuk mendapatkan informasi cepat. Namun, dengan putusan ini, perusahaan teknologi kini berada di bawah tekanan hukum yang lebih besar untuk memastikan akurasi konten yang mereka hasilkan secara otomatis. Keputusan ini menandai titik balik dalam regulasi AI di dunia, di mana tanggung jawab tidak lagi bisa dialihkan begitu saja kepada pengguna akhir.