Google retira resúmenes de salud de IA tras errores médicos peligrosos

Google retira resúmenes de salud de IA tras investigación sobre desinformación peligrosa

Google ha eliminado silenciosamente su función AI Overviews de ciertas búsquedas médicas después de una investigación de The Guardian que demostró que el sistema proporcionaba información de salud peligrosamente incorrecta que podría poner a los pacientes en grave riesgo. Los resúmenes generados por IA, que aparecen en la parte superior de los resultados de búsqueda de Google, ofrecían consejos médicos engañosos, incluidas recomendaciones dietéticas potencialmente fatales para pacientes con cáncer.

Descubiertos errores médicos peligrosos

La investigación encontró múltiples casos en los que los AI Overviews de Google proporcionaban información médica dañina. Un ejemplo particularmente alarmante involucró a pacientes con cáncer de páncreas a quienes se les aconsejó evitar alimentos ricos en grasas. 'Esto es exactamente lo contrario de lo que recomiendan los profesionales médicos,' dijo la Dra. Sarah Chen, una oncóloga especializada en cánceres gastrointestinales. 'Los pacientes con cáncer de páncreas a menudo necesitan dietas ricas en grasas para mantener el peso y la fuerza durante el tratamiento. Este tipo de desinformación puede literalmente costar vidas.'

Otro error crítico involucró pruebas de función hepática. La IA presentó rangos numéricos ordenados para análisis de sangre hepáticos sin explicar que los resultados normales dependen de factores como la edad, el sexo, la etnia y la medicación. 'Esto crea una falsa tranquilidad peligrosa,' explicó el Dr. Michael Rodríguez, un hepatólogo. 'Los pacientes con enfermedades hepáticas graves pueden ver estos números y pensar que están bien, retrasando así la atención médica crucial.'

Retiro parcial y preocupaciones persistentes

Google ha eliminado AI Overviews de términos de búsqueda específicos como 'cuál es el rango normal para análisis de sangre hepáticos', pero la investigación mostró que pequeñas variaciones de estas consultas aún producen resúmenes de IA inexactos. La empresa no ha proporcionado una explicación exhaustiva de por qué se implementaron estos cambios, aunque las fuentes sugieren que la investigación de The Guardian jugó un papel importante.

Un portavoz de Google declaró: 'Invertimos fuertemente en la calidad de AI Overviews, especialmente para temas sensibles como la salud. Si bien la gran mayoría proporciona información precisa, trabajamos continuamente para mejorar nuestros sistemas.' Sin embargo, los críticos argumentan que esta respuesta es insuficiente dada la gravedad de los errores.

Implicaciones más amplias para la IA en la atención médica

Este incidente plantea preguntas importantes sobre la confiabilidad de la información de salud generada por IA. Los expertos advierten que el problema fundamental radica en cómo AI Overviews resume el contenido del sistema de clasificación de páginas de Google, que puede contener contenido optimizado para SEO y spam. Luego, la IA presenta conclusiones defectuosas con un tono autoritario que hace que los errores parezcan confiables.

'El problema no es solo eliminar consultas específicas,' dijo la Dra. Elena Martínez, ética de IA. 'Se trata de todo el enfoque de la información médica generada por IA. Estos sistemas necesitan contexto correcto, comprensión matizada y supervisión experta, ninguno de los cuales está presente actualmente en AI Overviews.'

La controversia surge mientras empresas de IA como OpenAI y Anthropic se comprometen con aplicaciones de atención médica para sus productos, lo que subraya las graves consecuencias de incluso pequeños errores en las aplicaciones médicas de IA.

¿Qué sigue para las funciones de IA de Google?

Google introdujo AI Overviews como parte de su Search Generative Experience en 2023, con la función disponible globalmente en más de 200 países en mayo de 2025. El sistema utiliza algoritmos avanzados de aprendizaje automático para generar resúmenes basados en diversos contenidos web. Si bien muchos usuarios valoraron la conveniencia, la función ha recibido críticas persistentes por inexactitudes y simplificación excesiva de temas complejos.

Los profesionales médicos abogan por cambios más sustanciales. 'Google debe implementar salvaguardias adecuadas antes de desplegar IA para información de salud,' dijo la Dra. Chen. 'Esto no se trata de optimización de motores de búsqueda, se trata de la seguridad del paciente. La gente confía en Google con sus preguntas de salud, y esa confianza debe ganarse con precisión y responsabilidad.'

Actualmente, Google vuelve a mostrar resultados de búsqueda tradicionales para las consultas médicas afectadas, pero persisten las preocupaciones sobre la confiabilidad más amplia de AI Overviews en otros temas sensibles.