Google Tarik Fitur AI Rawan Sesat
Ambisi para raksasa teknologi global, termasuk Google, kembali dihadapkan pada ujian, dan kali ini menyangkut ranah yang sangat krusial, yaitu informasi kesehatan masyarakat.
Temuan terbaru The Guardian mengungkap bahwa kecerdasan buatan (AI) yang dibuat untuk memudahkan pencarian justru berisiko membahayakan pengguna dengan potensi menyesatkan.
Menanggapi temuan tersebut, Google memutuskan untuk menarik kembali sebagian dari fitur AI Overviews, yang merupakan ringkasan otomatis berbasis kecerdasan buatan yang ditampilkan di puncak hasil pencarian.
Tindakan ini diambil menyusul penemuan bahwa sejumlah rangkuman memuat informasi medis yang tidak akurat, yang berpotensi menimbulkan rasa aman yang salah pada pasien dengan kondisi kritis, khususnya mengenai hasil tes darah dan kondisi hati.
Berdasarkan laporan The Guardian pada Selasa, 13 Januari 2026, investigasi terhadap AI Overviews mengungkapkan bahwa Google menyajikan data yang keliru saat pengguna mencari tahu "rentang hasil normal tes darah untuk fungsi hati."
Informasi yang disajikan penuh dengan angka tanpa penjelasan yang memadai, serta sepenuhnya mengabaikan aspek krusial seperti umur, jenis kelamin, latar belakang etnis, dan kondisi medis pasien.
Para pakar berpendapat bahwa penemuan ini menimbulkan kekhawatiran besar sebab rangkuman AI dari Google menampilkan informasi yang salah terkait pemeriksaan fungsi hati yang sangat penting.
Kesalahan ini berisiko menyebabkan penderita penyakit hati kronis menganggap kesehatannya baik-baik saja, sehingga menunda atau bahkan tidak melakukan pemeriksaan medis lanjutan yang semestinya.
Menanggapi keresahan masyarakat, Google mengumumkan bahwa mereka akan menarik fitur AI Overviews untuk pencarian terkait "kisaran hasil normal tes darah hati" dan "kisaran hasil normal tes fungsi hati". Perwakilan perusahaan menekankan, "Apabila AI Overviews tidak sesuai konteks, kami akan melakukan evaluasi mendalam dan mengambil langkah sesuai prosedur kami."
Beberapa pakar menyambut baik keputusan ini. Vanessa Hebditch, direktur komunikasi dan kebijakan British Liver Trust, menyatakan, "Ini berita luar biasa, dan kami gembira menyaksikan penghapusan AI Overviews Google dalam kasus ini." Namun, ia juga mengingatkan, "
Jika pertanyaannya diajukan dengan cara berbeda, ringkasan AI yang berpotensi menyesatkan masih bisa muncul, dan kami tetap khawatir informasi kesehatan berbasis AI lainnya tidak akurat dan membingungkan.”
Investigasi The Guardian juga menemukan bahwa variasi pertanyaan seperti “kisaran acuan tes fungsi hati” masih memunculkan ringkasan AI. Hebditch menekankan, “Tes fungsi hati adalah kumpulan beberapa tes darah. Memahami hasilnya kompleks dan jauh lebih dari sekadar membandingkan angka.”
Dia menambahkan, ringkasan AI gagal memperingatkan bahwa hasil normal pun bisa muncul pada pasien dengan penyakit hati serius, “dan rasa aman palsu ini bisa sangat berbahaya.”
Kekhawatiran senada disampaikan Sue Farrington, Ketua Patient Information Forum, organisasi yang mempromosikan informasi kesehatan berbasis bukti.
Dia menilai penghapusan ringkasan AI Google sebagai langkah awal yang positif, namun menekankan masih banyak pekerjaan yang harus dilakukan untuk menjaga kepercayaan publik.
“Ini hasil yang baik, tetapi baru langkah pertama untuk menjaga kepercayaan publik terhadap hasil pencarian kesehatan Google,” kata Farrington.
Sementara itu, Google—yang menguasai sekitar 91 persen pangsa pasar mesin pencari global—menyatakan masih meninjau contoh-contoh lain yang disampaikan The Guardian.
Perusahaan menegaskan bahwa AI Overviews hanya ditampilkan ketika tingkat kepercayaan terhadap kualitas jawabannya tinggi dan telah ditinjau oleh tim internal klinisi.
Meskipun demikian, kecaman terus mengalir. Victor Tangermann, seorang editor senior di situs teknologi Futurism, berpendapat bahwa investigasi ini mengungkap bahwa Google masih memiliki banyak tugas yang harus diselesaikan. "Google harus memastikan bahwa alat AI-nya tidak menyebarkan informasi kesehatan yang salah dan berbahaya," katanya.
Matt Southern, seorang penulis senior di Search Engine Journal, sepakat bahwa kekeliruan dalam rangkuman AI di sektor kesehatan dapat menimbulkan konsekuensi yang berat.
"AI Overviews kini tampil di bagian atas hasil pencarian. Menurutnya, ketika topik yang dicari berkaitan dengan kesehatan, potensi penyebaran misinformasi menjadi jauh lebih berbahaya," ujarnya.
Kasus ini menyoroti kesulitan besar yang dihadapi perusahaan teknologi raksasa dunia: mencari titik temu antara kemajuan kecerdasan buatan dan kewajiban kepada masyarakat.
Di tengah persaingan teknologi global yang melibatkan tokoh-tokoh penting dunia, kebenaran dan keamanan data, khususnya terkait kesehatan, merupakan prioritas strategis yang mutlak.
Posting Komentar