La inteligencia artificial está cambiando la medicina, y los médicos utilizan algoritmos para predecir desde sepsis hasta caídas o muerte. A menudo integradas directamente en los registros médicos electrónicos, estas predicciones son fáciles de incorporar en la atención, y su desempeño suele darse por sentado.
Pero James Deardorff, geriatra y profesor asistente en la división de geriatría de la Universidad de California en San Francisco, advierte que la precisión por sí sola no garantiza un buen resultado. Ha construido varios modelos destinados a predecir resultados para adultos mayores, desde la mortalidad hasta la necesidad de atención en un hogar de ancianos, y afirma que los clínicos deben prestar atención tanto a los números detrás del modelo como a la forma en que se utilizan.
Este mes, Deardorff escribió un comentario sobre un amplio análisis del modelo propietario de predicción del final de la vida de Epic, publicado en JAMA Network Open. Su punto es simple: un modelo puede contribuir a un mal resultado incluso si es preciso.
Cómo funciona el modelo
El modelo de Epic es propietario, lo que significa que su funcionamiento no está disponible públicamente. El comentario de Deardorff se centra en cómo se utilizan las predicciones del modelo, no en cómo se construyó.
El modelo genera una predicción de mortalidad a un año para pacientes individuales. Ese número puede desencadenar una conversación sobre los objetivos de atención. También puede influir en decisiones sobre la prioridad de trasplante, donde lo que está en juego es mucho mayor.
El argumento de Deardorff es que la diferencia entre esos dos usos es enorme. Una conversación sobre los objetivos de atención tiene pocas desventajas. Una decisión sobre la prioridad de trasplante podría tener impactos profundos.
Precisión frente a resultados
El problema no es que el modelo esté equivocado. El problema es que tener razón no lo protege a uno del daño.
El comentario de Deardorff destaca cómo la precisión de un modelo puede ocultar riesgos graves cuando lo que está en juego es mucho. La predicción de mortalidad a un año de un paciente podría ser precisa, pero usarla para decidir quién recibe un trasplante es un asunto muy diferente. El modelo no malinterpretó al paciente; el daño provino de lo que el clínico hizo con la información.
Esta es una distinción sutil pero importante. La mayoría de los modelos se evalúan por su rendimiento, medido con algún parámetro de referencia. Eso indica qué tan bien predice el modelo, no qué tan bien se utilizan sus predicciones.
Deardorff quiere que los clínicos piensen en ambas cosas. Quiere que conozcan los números, pero también que sepan qué significan esos números cuando llegan.
El argumento central del comentario
El coautor de Deardorff planteó el punto junto a él. La pareja argumentó que una predicción de mortalidad utilizada para propiciar una conversación abierta sobre los objetivos de atención tiene pocas desventajas. La misma predicción utilizada para fundamentar una decisión de prioridad en un trasplante podría tener impactos profundos.
El contraste es marcado. Un uso es de bajo riesgo. El otro cambia la vida.
La postura de Deardorff es que los clínicos deben ser conscientes tanto del rendimiento de un algoritmo —incluso en subgrupos como los pacientes mayores— como de cómo utilizar responsablemente su resultado. Esa es una gran carga de responsabilidad, y exige más de los médicos que simplemente confiar en un número.
Por qué importa la geriatría
El trabajo de Deardorff se ubica plenamente en el campo de la geriatría, con la construcción de modelos de mortalidad y de atención en residencias de ancianos.
Su comentario sobre el modelo de Epic amplía ese enfoque. Está examinando cómo se desempeña una herramienta ampliamente utilizada en una población históricamente desatendida por la investigación médica.
La publicación en JAMA
El análisis del modelo de Epic se publicó en JAMA Network Open, una revista revisada por pares. Eso le da a la crítica de Deardorff una base sólida. No está criticando un modelo que él mismo construyó; está respondiendo a un estudio publicado sobre el trabajo de otra persona.
El comentario en sí está disponible para los suscriptores de STAT+. Es un recordatorio de que la literatura académica es donde se resuelven estas preguntas, y de que los clínicos deberían leerla.
Los límites de la precisión
El punto de Deardorff es que la precisión es necesaria pero no suficiente. Un modelo puede ser preciso y aun así producir malos resultados si sus predicciones se utilizan de manera irresponsable.
Esa es una lección dura para cualquiera que piense que la tecnología resuelve los problemas automáticamente. Un modelo es una herramienta, y las herramientas pueden usarse mal. El modelo no toma la decisión; la toma la persona que lo utiliza.
Qué deben hacer los clínicos
El consejo de Deardorff es directo. Conozca los números, pero no se detenga ahí. Comprenda qué le está diciendo el modelo y qué está haciendo usted con esa información.
También quiere que los clínicos consideren los subgrupos. Los pacientes mayores pueden responder de manera diferente a los modelos entrenados con poblaciones más jóvenes, e ignorar esa diferencia puede llevar a peores resultados.
El comentario es un llamado a la responsabilidad. Es un recordatorio de que una buena predicción no es lo mismo que una buena decisión.
El panorama más amplio
La IA se está convirtiendo en equipo estándar en la medicina. Los modelos están integrados en los registros médicos electrónicos y toman decisiones que afectan a los pacientes a diario.
Eso es un cambio, y requiere nuevos hábitos mentales. Los médicos deben tratar los resultados de los modelos como evidencia, no como órdenes. Deben comprender qué sabe el modelo y qué no sabe. Y deben seguir preguntándose si una predicción mejora la atención o solo la reemplaza con una versión más rápida del mismo error.
El trabajo de Deardorff es parte de esa conversación más amplia. Es un profesional que construye modelos, lo que da peso a sus advertencias. Sabe lo que las herramientas pueden hacer y sabe lo que no pueden hacer.
Puntos clave del comentario de Deardorff
- Un modelo puede contribuir a un resultado deficiente incluso si es preciso.
- Utilizar una predicción de mortalidad a un año para propiciar una conversación sobre objetivos de cuidado tiene pocas desventajas.
- Utilizar la misma predicción para fundamentar una decisión de prioridad en un trasplante podría tener impactos profundos.
- Los clínicos necesitan conocer el desempeño de un algoritmo, incluso en subgrupos como los pacientes de mayor edad.
- Los clínicos también necesitan saber cómo utilizar de manera responsable el resultado del modelo.
Este artículo es una adaptación de la cobertura del informe de STAT, que es contenido restringido. El comentario completo está disponible para los suscriptores de STAT+, y el análisis de JAMA Network Open al que responde también está detrás de un muro de pago.
Material de origen: “STAT+: A geriatrician explains why AI for older adults deserves careful scrutiny”, STAT.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.