La IA en la sanidad

Imagen generada por IA ganadora de un premio de arte

Uno de los comentarios que más escucho en el debate acerca del uso de la IA en la sanidad es el de “¿Qué pasa si la IA se equivoca?”. 

Para empezar hay que señalar que los profesionales sanitarios también se equivocan, con lo cual no es posible plantear el debate en términos de “usar una herramienta que puede fallar” versus “hacerlo sin herramientas y así no habrá equivocaciones”. 

Es mucho más interesante comparar cuáles son los errores de los profesionales sanitarios y los de la IA, porque el análisis de sus causas puede ayudar a reducir su impacto y a optimizar el resultado de combinar ambos. 

A grandes rasgos, mientras que los errores médicos a menudo se deben a factores que podríamos llamar biológicos (fatiga, conocimiento limitado, prejuicios…) los errores de la IA son de naturaleza procedimental (falta de calidad de los datos, fallos en la programación o limitaciones del modelo). 

Comprender pues los mecanismos que hay detrás de los dos tipos de error es esencial para que la colaboración entre médicos e ingenieros de IA redunde en beneficio de los pacientes: los profesionales sanitarios pueden aportar su experiencia clínica para mejorar los algoritmos, mientras que los sistemas de IA pueden ofrecer soporte en el manejo de grandes volúmenes de datos y detección de patrones complejos que pueden no ser evidentes para los humanos. 

Es decir, la integración de la IA en la medicina tiene el potencial de reducir el conjunto de los errores del sistema formado por profesionales sanitarios y algoritmos, a condición de que se aborden adecuadamente las causas de los fallos de unos y otros y como corregirlos e incluso usar cada componente del sistema para compensar los fallos del otro. 

Errores Médicos y sus causas 

Las principales causas de errores de los profesionales sanitarios son: 

1. Fatiga y estrés: las largas jornadas de trabajo, a menudo en condiciones exigentes, generan fatiga y aumentan la probabilidad de errores; un médico cansado puede interpretar incorrectamente los resultados de una prueba o pasar por alto síntomas críticos. 
2. Conocimiento limitado: ningún profesional sanitario puede conocer todas las enfermedades y tratamientos existentes y estos se actualizan con una frecuencia que hace imposible mantenerse al día en todas las áreas. Un médico puede no estar al tanto de una condición rara, llevando a un diagnóstico incorrecto. 
3. Errores de comunicación: la falta de comunicación efectiva entre los miembros del equipo médico o con los pacientes puede generar errores; así, una información incompleta o incorrecta transmitida durante un cambio de turno puede llevar a un tratamiento inadecuado. 
4. Características personales: los sesgos cognitivos, la subjetividad o las experiencias previas pueden influir en las decisiones médicas, generando suposiciones no soportadas por la evidencia. 

Errores de los algoritmos de IA y sus causas 

Los algoritmos de IA también cometen errores si bien las causas de estos errores son diferentes a las de los médicos. Las más relevantes son: 

1. Datos de entrenamiento no adecuados: Los algoritmos de IA se entrenan con datos y, si estos datos no son representativos o están sesgados, los resultados pueden ser incorrectos. Así un algoritmo entrenado con datos mayoritariamente de pacientes de una región específica puede no funcionar bien con pacientes de otra región con características diferentes. 
2. Errores de programación: bugs o errores en el código pueden llevar a decisiones incorrectas, por ejemplo pasando por alto una condición importante o no teniéndola en cuenta en determinadas circunstancias. 
3. Limitaciones del modelo: los modelos de IA pueden no capturar toda la complejidad de las condiciones médicas, al incorporar simplificaciones o eliminar factores comórbidos que afectan el diagnóstico o tratamiento. 
4. Falta de actualización: los algoritmos necesitan ser actualizados con nuevos datos y descubrimientos médicos, para revisar directrices obsoletas que puedan suponer tratamientos inadecuados. 

Tanto unos como otros son difíciles de eliminar y, algunos de ellos, pueden ser extremadamente difíciles incluso de identificar; pero la solución a los errores de los profesionales sanitarios no ha sido nunca renunciar a contar con ellos y, del mismo modo, no puede ser renunciar a usar la IA la forma de enfrentarse a sus posibles fallos. 

Las organizaciones y los profesionales deben establecer modelos de colaboración con la IA que -desde el propio diseño de los algoritmos- faciliten que estos ayuden a los profesionales a evitar o anticipar sus errores (por ejemplo los asociados al cansancio o al conocimiento limitado), en tanto que los profesionales contribuyen a prevenir o corregir los errores de los algoritmos (por ejemplo supervisando los datos de entrenamiento por diferentes equipos profesionales o contrastando el comportamiento de diferentes algoritmos sobre los mismos problemas…) 

La IA es una herramienta que abre posibilidades inmensas en el área del conocimiento y de la salud; no es una panacea -nunca mejor dicho- pero empeñarse en ignorarla no hará que desaparezca y sólo desde un enfoque que se centre en aprovechar su potencial estaremos en condiciones de gestionar adecuadamente sus riesgos.

Y una creación con udio... IA para componer música... 

Reflections in time