JBNews.id — Seorang wanita berusia 32 tahun di Brasil meninggal dunia setelah sistem kecerdasan buatan (AI) milik rumah sakit negara menunda aksesnya ke ruang perawatan intensif (ICU) selama lima hari. Insiden ini mengungkap kelemahan fatal dalam sistem kesehatan yang semakin bergantung pada algoritma untuk membuat keputusan medis kritis.
Menurut laporan media Brasil, MG1, Rebeca Cardoso Tenente Molina meninggal setelah sistem AI milik negara bagian untuk penugasan tempat tidur rumah sakit memaksanya menunggu lima hari untuk dipindahkan ke unit perawatan intensif. Molina awalnya dirawat di São João Nepomuceno karena batu empedu sebelum kondisinya memburuk dengan cepat.
Dia menunggu tempat tidur ICU di rumah sakit Oliveira, yang berjarak sekitar 186 mil dari lokasi perawatan awalnya. Meskipun keluarga Molina telah menempuh jalur hukum darurat untuk mempercepat pemindahan, proses transfer tetap tertunda secara signifikan. Keluarga kini meyakini bahwa penundaan lima hari itu berakibat fatal.
Kakak perempuan Molina yang juga pengacara keluarga, Sâmela Cardoso Tenente Furtado, mengungkapkan bahwa sistem manajemen rumah sakit berbasis AI memberikan skor yang jauh lebih rendah kepada pasien dibandingkan kondisi medisnya yang sebenarnya. Skor otomatis ini, yang dikerjakan oleh Pusat Operasi Regulasi Negara Bagian (Core-MG) menggunakan alat AI, diduga menjadi faktor penundaan transfer ke ICU.
Baca Juga:
“Yang kami lihat adalah dokter kehilangan otonomi untuk memutuskan apakah seorang pasien sakit parah,” kata Furtado kepada MG1. “Yang harus menerima apakah seorang pasien sakit parah bukan lagi dokter yang ada di sana dan mengalami realitas itu bersama pasien, melainkan Core.”
Dalam wawancaranya, Furtado menggambarkan sistem yang cacat dan tidak fleksibel, yang tidak mau berubah meskipun data tes menunjukkan kondisi adiknya memburuk. “Dia seharusnya mendapat skor 10, tapi sistem hanya menerimanya sebagai 6,8,” lanjut Furtado. “Jadi dia tidak bisa berkembang dengan benar dalam sistem karena pasien dengan skor 8, pasien dengan skor 6,9 akan melompat di depannya. Dan sistem tidak mau menerima peningkatan tingkat keparahan dalam sistem karena data tes yang terus-menerus dimasukkan.”
“Adik saya, orang lain, bukan sekadar angka, bukan sekadar protokol, bukan sekadar CPF [nomor pajak Brasil] yang dimasukkan ke dalam sistem,” kata kakak Molina kepada MG1. “Mereka punya keluarga, mereka punya mimpi, mereka punya seluruh hidup di depan mereka.”
Kasus ini menyoroti bahaya dari penerapan AI di sektor kesehatan tanpa pengawasan manusia yang memadai. Kejadian serupa juga pernah terjadi di sektor teknologi lain, seperti insiden Tesla tabrak garasi akibat mode Autopilot di Washington, yang menunjukkan risiko dari terlalu bergantung pada sistem otomatis.
Respons Pemerintah dan Sistem Core-MG
Dalam pernyataan resmi yang dibagikan setelah peluncuran sistem AI pada 19 Mei, Wakil Sekretaris Kesehatan Minas Gerais, Poliana Cardoso Lopes, mengatakan bahwa “Core menyediakan peta tempat tidur yang diperbarui tiga kali sehari. Dengan ini, akan mungkin untuk memiliki kontrol yang jauh lebih besar atas proses dan menghasilkan data yang lebih baik tentang kondisi klinis dan kebutuhan setiap orang yang menunggu tempat tidur.”
Menanggapi kematian Molina, Dinas Kesehatan negara bagian mengatakan kepada MG1 bahwa transfer ditentukan berdasarkan ketersediaan tempat tidur yang sesuai dengan kebutuhan klinis pasien, dan menambahkan bahwa Core-MG tidak secara fundamental mengubah protokol untuk mentransfer pasien ke fasilitas lain.
Namun, pernyataan itu tidak menjawab pertanyaan kritis: mengapa sistem AI mengabaikan penilaian dokter di lapangan? Furtado menegaskan bahwa para dokter kehilangan kewenangan untuk membuat keputusan medis yang mendesak, yang berakibat fatal bagi pasien seperti adiknya.
“Dia akan menjadi 10, dan sistem hanya menerimanya sebagai 6,8,” kata Furtado. “Jadi dia tidak bisa maju dengan benar dalam sistem karena pasien di 8, pasien di 6,9 akan melompat di depannya. Dan sistem tidak akan menerima peningkatan tingkat keparahannya dalam sistem karena tes yang terus-menerus memberinya data.”
Implikasi untuk Sistem Kesehatan Global
Kasus Molina bukanlah insiden isolasi. Di Amerika Serikat, sistem rumah sakit kota terbesar di negara itu sudah siap untuk mulai menggantikan radiolog dengan AI, menurut pernyataan CEO-nya. Tren ini menunjukkan bahwa adopsi AI di bidang kesehatan terus berlanjut, meskipun ada risiko yang terungkap dalam kasus Brasil.
Bagi pembaca di Indonesia, kasus ini menjadi peringatan dini tentang pentingnya regulasi dan pengawasan manusia dalam penerapan AI di sektor kesehatan. Meskipun AI dapat membantu efisiensi, keputusan medis yang menyangkut hidup dan mati tidak boleh sepenuhnya diserahkan pada algoritma.
“Adik saya, orang lain, bukan hanya angka, mereka bukan hanya protokol, mereka bukan hanya CPF [nomor pajak Brasil] yang dimasukkan ke dalam sistem,” kata Molina, mengingatkan bahwa pasien adalah manusia dengan keluarga dan masa depan, bukan sekadar data dalam sistem.
Kasus ini juga menunjukkan bahwa meskipun AI dapat meningkatkan efisiensi administrasi, sistem yang kaku dan tidak fleksibel dapat mengorbankan nyawa. Keluarga Molina telah menempuh jalur hukum, tetapi penundaan yang disebabkan oleh sistem AI tetap berakibat fatal.
Bagi para profesional kesehatan dan pembuat kebijakan, kasus ini menjadi pelajaran berharga: teknologi harus menjadi alat bantu, bukan pengganti, untuk penilaian klinis manusia. Tanpa keseimbangan yang tepat, risiko seperti yang dialami Molina akan terus berulang.