La inteligencia artificial puede cometer fallos, pero en el caso de los diagnósticos médicos, ya se ha demostrado con creces que es vital para estudiar correctamente cada caso individual.
En sendos estudios, que van desde publicaciones en revistas científicas hasta modelos concretos impulsados por Google, la IA ha conseguido superar al ser humano en el diagnóstico.
Según el corpus teórico actual, una noticia positiva a medias, ya que implica que en el sector sanitario los falsos positivos y negativos aún continúan representando un porcentaje importante del conjunto.
Un investigador alemán explica cómo funciona el sistema de navegación del cerebro humano, lo que podría ayudar a entender cómo la IA puede mejorar los diagnósticos médicos.
Lo que no solo lleva al riesgo evidente para la persona implicada, sino también el gasto repetido en recursos públicos, ante la falta de eficiencia durante los diagnósticos.
Si en 2023 el modelo MultiMedQA de Google tenía una tasa superior al 60% de fiabilidad, en tan solo 3 años este tipo de modelos grandes de lenguaje natural (LLM) especializados son capaces de superar con creces al diagnóstico humano.
Sea como sea, ninguna compañía muestra estos LLM como una alternativa al trabajo humano, sino más bien como un complemento especializado que ayude al médico a diagnosticar correctamente enfermedades graves, como ocurre con muchos tipos de cánceres.
Modelos que no tienen nada que ver con los chatbots que conocemos
A diferencia de lo que ocurre con ChatGPT o Google Gemini, que son modelos entrenados para la mayor parte de usuarios y que basan sus respuestas en la probabilidad, los modelos relacionados con la medicina son especializados.
Es lo mismo que ocurre con la IA dirigida a los amantes del ajedrez, con modelos que son capaces de batir a los humanos, pero en un sector mucho más crítico, favoreciendo que los trabajadores humanos tengan una tasa menor de falsos positivos en el diagnóstico.
Precisamente, ya hay ejemplos claros que han demostrado que la IA es vital en este sector; según un estudio publicado en Nature, de la mano de Google Health y el Imperial College de Londres, su modelo superó a los radiólogos humanos.
En concreto, al analizar e identificar en mamografías procesos cancerosos relacionados con el cáncer de mama, uno de los que mayor prevalencia muestra a nivel mundial.
Específicamente, la IA para diagnosticar el cáncer de mama consiguió reducir los falsos positivos en un 5,7% en Estados Unidos, pero también los falsos negativos en un 9,4%, asegurando una mejor atención para las mujeres afectadas.
A pesar de todo, hay que coger estos modelos con pinzas, ya que los sesgos de la IA no tienen nada que ver con los de los humanos y, en muchas ocasiones, los entrenamientos pueden introducir sesgos prácticamente invisibles.
A pesar de todo, la IA sigue siendo racista
Como suele ocurrir con cualquier modelo entrenado con las bases de datos actuales, son un reflejo de las sociedades humanas del momento; y, desafortunadamente, algunos estudios demuestran que los sesgos de la IA tienen que ver con cuestiones raciales.
En un artículo de investigación publicado en la revista Science, los científicos demostraron que un algoritmo ampliamente utilizado presentaba “un sesgo racial significativo”, afectando concretamente a las personas negras.
“Con una puntuación de riesgo determinada, los pacientes negros están considerablemente más enfermos que los pacientes blancos, como lo demuestran los signos de enfermedades no controladas”, explican. “Corregir esta disparidad aumentaría el porcentaje de pacientes negros que reciben ayuda adicional del 17,7 % al 46,5 %”.
Según el equipo, este sesgo surge porque el algoritmo predice los costes de atención médica en lugar de la enfermedad, un elemento que se agrava mayormente con los costes asociados al sector sanitario privado en Estados Unidos.
Básicamente, este modelo diagnosticaba menos enfermedades a las personas negras que a las blancas, todo por un supuesto coste económico mayor, procedente del entrenamiento concreto del modelo.
Las compañías que quieran entrenar este tipo de modelos han de revisar bien los datos de los que disponen, para ofrecer un servicio de calidad a todos los seres humanos, independientemente de su color de piel y otros factores.
“La IA puede ser una herramienta poderosa para mejorar la atención médica, pero debemos asegurarnos de que se utilice de manera justa y equitativa”.
El desafío de los sesgos en la IA médica
La inteligencia artificial (IA) ha demostrado ser una herramienta vital en el diagnóstico médico, capaz de superar a los humanos en ciertos aspectos. Sin embargo, uno de los desafíos más significativos que enfrenta es el de los sesgos raciales y sociales inherentes a los datos con los que se entrena. Un estudio publicado en la revista Science reveló que un algoritmo ampliamente utilizado presentaba “un sesgo racial significativo”, afectando concretamente a las personas negras. Esto se debía a que el algoritmo predecía los costes de atención médica en lugar de la enfermedad en sí, lo que resultaba en un diagnóstico menos preciso para pacientes de raza negra.
Este problema subraya la importancia de revisar y diversificar los datos de entrenamiento para garantizar que los modelos de IA sean justos y equitativos para todas las poblaciones. De hecho, se estima que corregir este sesgo podría aumentar el porcentaje de pacientes negros que reciben ayuda adicional del 17,7% al 46,5%.
¿Cómo abordar estos desafíos?
Para abordar estos desafíos, las compañías que desarrollan modelos de IA médica deben priorizar la transparencia y la equidad en sus procesos de entrenamiento. Esto incluye:
- Recopilar y utilizar conjuntos de datos diversos y representativos.
- Implementar métodos para detectar y mitigar sesgos en los algoritmos.
- Realizar pruebas rigurosas para asegurar la equidad y la precisión de los modelos.
Al tomar estas medidas, la IA puede cumplir su promesa de mejorar la atención médica para todos, independientemente de su origen o condición.
