Entre anécdotas de ciencia ficción y ejemplos clínicos reales, el Dr. Headroom alerta en el Congreso de la semFYC sobre los errores, la sobreconfianza y el uso «cosmético» de la inteligencia artificial en las consultas de Atención Primaria.
Madrid, jueves 15 de noviembre de 2025 – 00:06 h
Pedro Pérez, corresponsal
En el gastrobar del Novotel Campo de las Naciones, funcional, pero de aire sofisticado, aguarda el Dr. Max Headroom, al que cuesta poco distinguir entre los escasos clientes que en ese momento desayunan en el hotel.
Madrid amanece gris y amenazando lluvia; un comentario meteorológico basta para romper el hielo.
MH. —Where is sunny Spain? —saluda con un apretón de manos firme, propio de quien transmite confianza.
P. —Parece que estos días de congreso nos ha abandonado.
MH. —Es broma. Llevo unos días por Madrid y alrededores y hemos tenido buen tiempo.
P. —Me sorprende su español.
MH. —¿No le avisaron? Con esta pinta de guiri, sorprende, ¿verdad? —ríe—. Mi madre tiene familia en Guatemala; pasé muchos veranos allí. Y en mi universidad trabajo con varios colegas españoles.
El Dr. Headroom se formó en Medicina de Familia en el University of Minnesota Medical Center y completó un máster en IA aplicada a la salud en Stanford University. Actualmente, dirige el laboratorio de inteligencia artificial de su facultad gracias a una beca de investigación de la ST Upid Foundation for AI.
En unas horas, participará en la conferencia de clausura del XLVI Congreso de la semFYC.
«Más que desafíos, lo que veo son dudas»
P. —Doctor, ¿puede adelantarnos el contenido de su charla?
MH. —Inicialmente iba a hablar de los desafíos que plantea la IA a la atención sanitaria y, en particular, a la Medicina de Familia, pero después de visitar varios centros de salud aquí en Madrid, he decidido cambiar el enfoque.
P. —¿En qué sentido?
MH. —Creo que más que de desafíos voy a hablar de las dudas que me genera cómo se está desplegando la IA en las consultas.
P. —¿Dudas? Sorprende oírlo en alguien de su trayectoria.
MH. —Le voy a contar una anécdota de hace tiempo, en una conversación informal entre colegas, en un bosque cercano al Parque Nacional de Yosemite. Discutíamos sobre quién dijo la frase «Never tell me the odds» en Star Warsa. Preguntamos a un asistente de IA, que afirmó con total seguridad que era de C-3PO, cuando todo el mundo sabe que es de Han Solo. Perdí 100 dólares con la apuesta —cuenta entre carcajadas—. Después, al demostrar el error, Google me devolvió el dinero y reprogramaron Gemini.
Errores clínicos: «Un informe de trece páginas para diagnosticar un problema que no existía»
P. —Pero eso es una anécdota friki. ¿Y en el ámbito sanitario?
MH. —Hay gente que cree genuinamente en la IA, y otra que la usa como herramienta de marketing. Un colega madrileño me contó un caso revelador: un ejecutivo del sector tecnológico subió a Copilot dos analíticas —una reciente y otra previa— junto con un resumen de sus antecedentes y dolencias. En dos minutos obtuvo un informe «mucho mejor que el de un médico», según sus palabras.
En realidad, aquel informe de trece páginas era un despropósito. Además, la IA «diagnosticaba» un empeoramiento del hipotiroidismo basándose en una TSH que pasaba de 4,22 a 5,8 µUI/ml y una T4 baja. El problema era que el valor bajo de la T4 no era su resultado real, sino el valor inferior del rango de normalidad del laboratorio. Copilot se había equivocado, cogiendo como valor de la T4 del paciente el valor inferior del rango de normalidad que todo informe de laboratorio aporta.
Una confusión básica, pero con impacto clínico.
P. —¿Alucinaciones del modelo?
MH. —Eso y más cosas, en cierto modo representa bien dónde estamos: la apariencia de rigor no siempre equivale a rigor. Por cierto, ¿sabe quién descubrió el error?
P. —No.
MH. —Pues fue su propio médico de familia, que fue, entre otras cosas, el único que se leyó el informe entero.
«Planteas la misma pregunta a veinte modelos y obtienes respuestas opuestas»
P. —¿Tiene algún ejemplo más?
MH. —Sí. Un profesor de la Universidad de Baylor que va a colaborar con nuestro laboratorio probó una herramienta llamada OpenEvidence. Ante la pregunta de si la oxacilina requiere ajuste de dosis en diálisis, la IA respondió, con bibliografía y mucha seguridad, que sí. Pero es incorrecto. Replicamos la pregunta en múltiples agentes: diez dijeron que no había que ajustar la dosis; once dijeron que sí. Varios ofrecían razonamientos aparentemente convincentes. Creo que a veces olvidamos que la medicina no es una ciencia exacta y que sus fundamentos epistémicosb son frágiles.
«La IA puede mejorar informes, pero no arregla malos sistemas»
P. —Al menos parece útil para tareas rutinarias.
MH. —Sí, puede optimizar flujos de trabajo y ahorrar tiempo, especialmente en tareas estructuradas, pero muchas veces se sobrevalora. Un colega español comparó sus informes clínicos como paciente, antes y después de implementar un escriba digital en el hospital. Los nuevos eran mejores y más claros, pero al revisarlos con calma llegó a la conclusión de que esa mejora podría haberse logrado igual si los médicos dedicaran más cuidado y si los programas de historia clínica estuvieran actualizados.
«La IA crecerá, pero no puede cegarnos»
P. —Con lo que cuenta, quizás habría que cambiar el título de su charla por otro más pesimista.
MH. —(Ríe) No es mi intención ser pesimista. Solo quiero transmitir que las aplicaciones esperanzadoras de la IA son reales y crecerán, pero no deben nublarnos. En cualquier ámbito de la vida, los problemas están antes que las soluciones. Y eso parece haberse olvidado con la llegada de la IA.
a El Dr. Max Headroom se refiere a la famosa escena de Star Wars - Episodio V: El imperio contraataca, cuando el Halcón Milenario huye de los destructores estelares imperiales. Con el hiperpropulsor averiado, Han Solo decide tomar una medida desesperada: sumergirse directamente en un denso campo de asteroides, no sin que C-3PO le alertara de las escasas probabilidades de salir ileso: Star Wars - Never Tell Me The Odds.
b Nota del P.- preguntar al Dr. Novoa qué significa esto de epistémico.
Fernando José 28-12-25
Interesante transcripción de la conversación. ¿Se hizo con un escriba digital? Es broma. Este artículo dan ganas de aprender más del tema.