_Calle_de_la_salud,_azulejo_indicativo.png)
En anteriores entradas sobre IA (aquí y aquí) he hecho referencia a artículos sobre IA publicados en la revista #39 de eldiario.es. Esa edición está dedicada a la IA y tiene muchos artículos interesantes. No quería dejar sin mencionar el de Esther Samper (@Shora) doctora en medicina que colabora habitualmente con dicho periódico.
En dicho artículo menciona que la IA puede ser muy útil como apoyo a los profesionales sanitarios que están especialmente saturados en la sanidad pública de diversos países europeos como España, Portugal, Francia o Reino Unido.
Existen grupos de investigación desarrollando tecnologías similares a ChatGPT para ayudar a los médicos. El apoyo prestado a los facultativos sería tanto para para realizar mejores diagnósticos como mencioné en mi entrada anterior como para labores burocráticas.
Yo, que hice el servicio militar en una unidad sanitaria, soy testigo de la cantidad de papeleo que lleva asociada una unidad médica en un cuartel y que depende en gran medida del trabajo de los médicos que deberían dedicarse exclusivamente a atender a los pacientes.
Esther también menciona en su artículo otros usos de IA: Predecir la aparición de enfermedades, detectar enfermedades ya existentes mediante nuevos métodos o el desarrollo de nuevos medicamentos.
No obstante, también plantea en su artículo múltiples retos y dificultades que habrá que superar.
Muchas IA funcionan como "cajas negras" lo que complica la evaluación de su fiabilidad y la detección de posibles errores. Como comenté en el artículo sobre peligros de la IA Cathy O'neill ya señalaba los riesgos de un mal entrenamiento que puede producir sesgos que afecten a la veracidad de los resultados. Como señala Esther, ChatGPT y otras IA que yo mismo he podido probar, dan datos falsos y cuando se los señalas simplemente "piden disculpas" o pueden llegar a inventarse referencias científicas.
También Esther comenta un gran problema a resolver (y no solo en el ámbito sanitario): si de una IA dependen la vida de personas... ¿Quién es responsable de los errores de una IA? ¿los desarrolladores, la empresa que creó esa IA, los médicos que la utilizaron o la institución sanitaria en la que trabajan? Esta es una de las preguntas pendiente de respuesta aún y en la que ya están trabajando muchos grupos de expertos en IA y en ética.
Y es que la ética ha recuperado de nuevo su relevancia en este mundo que vivimos con tantos avances científicos donde ahora podemos hacer cosas asombrosas y donde porque algo se pueda hacer no quiere decir que debamos hacerlo.
Finalmente, Esther señala otro gran riesgo de las IA en general pero especialmente sensible cuando hablamos de datos sanitarios: que datos especialmente sensibles como los sanitarios puedan ser usados por terceros para discriminar. Compañías aseguradoras podrían no aceptar pacientes simplemente por tener ciertas predisposiciones genéticas y aunque se protejan los sistemas informáticos, la seguridad 100% no existe y las grandes compañías tecnológicas no han demostrado ser especialmente protectoras de la privacidad de sus usuarios en los últimos años.
Por todo ello no cabe duda de que la IA es y va a ser un gran apoyo a los profesionales sanitarios pero en ningún caso los va a sustituir.
Imagen: Raimundo Pastor, CC BY-SA 3.0 <https://creativecommons.org/licenses/by-sa/3.0>, via Wikimedia Commons
