Cómo aplicar la IA a la salud

 

 

En anteriores entradas sobre IA (aquí y aquí) he hecho referencia a artículos sobre IA publicados en la revista #39 de eldiario.es. Esa edición está dedicada a la IA y tiene muchos artículos interesantes. No quería dejar sin mencionar el de Esther Samper (@Shora) doctora en medicina que colabora habitualmente con dicho periódico.

En dicho artículo menciona que la IA puede ser muy útil como apoyo a los profesionales sanitarios que están especialmente saturados en la sanidad pública de diversos países europeos como España, Portugal, Francia o Reino Unido.

Existen grupos de investigación desarrollando tecnologías similares a ChatGPT para ayudar a los médicos. El apoyo prestado a los facultativos sería tanto para  para realizar mejores diagnósticos como mencioné en mi entrada anterior como para labores burocráticas.

Yo, que hice el servicio militar en una unidad sanitaria, soy testigo de la cantidad de papeleo que lleva asociada una unidad médica en un cuartel y que depende en gran medida del trabajo de los médicos que deberían dedicarse exclusivamente a atender a los pacientes. 

Esther también menciona en su artículo otros usos de IA: Predecir la aparición de enfermedades,  detectar enfermedades ya existentes mediante nuevos métodos o el desarrollo de nuevos medicamentos.

No obstante, también plantea en su artículo múltiples retos y dificultades que habrá que superar.

Muchas IA funcionan como "cajas negras" lo que complica la evaluación de su fiabilidad y la detección de posibles errores. Como comenté en el artículo sobre peligros de la IA Cathy O'neill ya señalaba los riesgos de un mal entrenamiento que puede producir sesgos que afecten a la veracidad de los resultados. Como señala Esther, ChatGPT y otras IA que yo mismo he podido probar, dan datos falsos y cuando se los señalas simplemente "piden disculpas" o pueden llegar a inventarse referencias científicas.

También Esther comenta un gran problema a resolver (y no solo en el ámbito sanitario): si de una IA dependen la vida de personas... ¿Quién es responsable de los errores de una IA?  ¿los desarrolladores, la empresa que creó esa IA, los médicos que la utilizaron o la institución sanitaria en la que trabajan? Esta es una de las preguntas pendiente de respuesta aún y en la que ya están trabajando muchos grupos de expertos en IA y en ética.

Y es que la ética ha recuperado de nuevo su relevancia en este mundo que vivimos con tantos avances científicos donde ahora podemos hacer cosas asombrosas y donde porque algo se pueda hacer no quiere decir que debamos hacerlo. 

Finalmente, Esther señala otro gran riesgo de las IA en general pero especialmente sensible cuando hablamos de datos sanitarios: que datos especialmente sensibles como los sanitarios puedan ser usados por terceros para discriminar. Compañías aseguradoras podrían no aceptar pacientes simplemente por tener ciertas predisposiciones genéticas y aunque se protejan los sistemas informáticos, la seguridad 100% no existe y las grandes compañías tecnológicas no han demostrado ser especialmente protectoras de la privacidad de sus usuarios en los últimos años.

Por todo ello no cabe duda de que la IA es y va a ser un gran apoyo a los profesionales sanitarios pero en ningún caso los va a sustituir.

 

Imagen: Raimundo Pastor, CC BY-SA 3.0 <https://creativecommons.org/licenses/by-sa/3.0>, via Wikimedia Commons

La inteligencia artificial en la salud

 

 

Cuando estudiaba en la universidad inteligencia artificial y sistemas expertos siempre me pareció que la medicina era uno de los campos donde más podrían ayudar estas nuevas tecnologías.

No cabe duda de que el trabajo del médico es uno de los trabajos más difíciles y con mayor responsabilidad dado que están en juego vidas humanas, aunque también lo está el sufrimiento, la calidad de vida e incluso la economía de muchas familias. En este trabajo hay que realizar diagnósticos a partir de síntomas y pruebas y a partir de ahí recomendar tratamientos.

La complejidad asociada al mantenimiento de la salud humana es tal que un médico debe conocer desde enfermedades infecciosas (bacterias, virus, hongos) enfermedades autoinmunes, degenerativas, lesiones, trastornos mentales, alergias, inflamaciones, envenenamientos, cáncer, cualquier cosa que trastorne el correcto funcionamiento del cuerpo humano.

Ante tal complejidad no cabe duda de que la inteligencia artificial y los sistemas expertos deberían ser un apoyo fundamental en la labor de estos profesionales. El ejemplo más claro es el del paciente que ha viajado a otro país y se contagia allí de una rara enfermedad y que vuelve, por ejemplo a España, y describe sus síntomas a un médico de cabecera. Si el médico no está especializado en dichas enfermedades es muy improbable que pueda realizar un diagnóstico correcto salvo que el propio paciente comente que ha viajado a un sitio exótico.

En cambio un sistema experto especializado en diagnósticos bien podría considerar todas las posibilidades y servir de apoyo (ojo, nunca he dicho sustituir) al médico para su trabajo.

A la hora de realizar pruebas adicionales o incluso al prescribir un tratamiento también un sistema experto puede estar más al día que el médico y aunque sin duda el médico debe también irse actualizando, el sistema experto puede ser más ágil en estar al día en estas novedades.

Así que no debería estar muy lejos el día en que los médicos en consulta recibieran el apoyo de una inteligencia artificial o de un sistema experto.

 

Imagen: Draganzivancevic, CC BY-SA 4.0 <https://creativecommons.org/licenses/by-sa/4.0>, via Wikimedia Commons

¿Nos quitará la IA el trabajo?

 

 

En mi anterior entrada sobre IA mencionaba a los luditas que quemaban máquinas porque les estaban quitando el trabajo

¿Nos va a quitar el trabajo la IA?

 

En eldiario.es Carlos del Castillo (@CdelCastilloM) en su artículo "La nueva era del mercado laboral" comenta que la IA hace que las nuevas tecnologías no solo pongan en peligro el trabajo de camioneros o camareras sino también en el trabajo en las oficinas e incluso en puestos de trabajo con formación superior, idiomas y masters.

 

Las IA generativas pueden interpretar lo que dicen las personas, escribir textos, componer mensajes orales, diseñar imágenes o producir canciones y vídeos. Esto le permite ordenar y contestar correos electrónicos, distribuir recursos, plantear estrategias, elaborar informes o jerarquizar tareas de otros trabajadores cosas que no estaban a priori en la hoja de ruta para ser los siguientes en automatizarse.

 

Incluso las máquinas se van a comer una parte del proceso creativo que muchos pensaban que estaba reservado a las personas.

 

El reto que plantea la IA es que altera el principal mecanismo de redistribución de riqueza que ha operado en las sociedades capitalistas desde la primera revolución industrial: el sueldo.

 

Permite que las empresas lleven a cabo su actividad sin apenas empleados, sin apenas sueldos.

 

Esto no es nada nuevo, la comisión Europea planteó en 2009 fórmulas para que el impuesto de sociedades descienda si das mucho empleo pero aumente si no das trabajo. Si no hay sueldos pagas más impuesto de sociedades.

 

¿Hay que repartir el trabajo? En el artículo apunta las sugerencias de profesores universitarios que indican que la legislación debe adaptarse para que introducir nuevas tecnologías que supongan despedir a gente no salga rentable para las empresas, el trabajo debe repartirse y eso se conseguirá reduciendo el número de horas por trabajador (bien en días laborables o bien en jornadas más cortas).

 

Y es que a pesar de que el empleo TIC sigue teniendo una fuerte demanda, desde enero de 2022 muchas compañías tecnológicas importantes han reducido sus plantillas.

 

No cabe duda de que la IA va a suponer cambios en el modo de trabajo en muchas profesiones: periodistas, médicos, incluso artistas pero de momento no va a sustituir al humano al 100%. De hecho la UNESCO recomienda que las decisiones con un impacto irreversible o difícil de revertir sobre las personas deberían ser adoptadas por un ser humano excluyendo la utilización de los automatismos basados en sistemas de IA.

Imagen: Haophuong21, CC BY-SA 4.0 <https://creativecommons.org/licenses/by-sa/4.0>, via Wikimedia Commons

¿Es la inteligencia artificial un peligro para la humanidad?

En la película Terminator una Inteligencia Artificial (IA) se hace autoconsciente y decide que la humanidad le sobra y trata de acabar con ella. En muchos otros relatos de ciencia ficción sobre el futuro aparecen IAs que se mueven de forma autónoma en un mundo futurista donde "toleran" a los humanos.

La IA es una avance tecnológico más que ha llegado para quedarse como todos los demás. Ya en el siglo XIX los luditas destruían la maquinaria textil pues robaba sus puestos de trabajo. Pero la mejora de la productividad que producían las máquinas era evidente y ha seguido creciendo y mejorando hasta nuestros días donde las computadoras ya toman muchas decisiones que influyen en nuestro día a día.

¿Dónde ocurre?

Ya se usan IAs para invertir en bolsa, para filtrar candidatos a un puesto de trabajo o para establecer la prima en un seguro, cosas que pueden parecer intangibles pero que no lo son.

Cathy O'neill en su libro "armas de destrucción automática" señala varios de estos peligros que suponen las IAs y como si no se usan adecuadamente podrían producir situaciones injustas como marginación, exclusión social o educativa.

Por tanto, sí que es necesario regular las IA y será necesario en el futuro a medida que tomen más control de nuestras vidas establecer comités de control y ética para la regulación de estos temas.

En una entrevista publicada en eldiario.es de María Sánchez Diez (@mimapamundi) a Timnit Gebru, esta científica especializada en IA indica 2 frases muy a tener en cuenta:

No es necesario ser experto en tecnología para comprender cuando algo es bueno y cuando no.

Me gustaría que fuera responsabilidad de las empresas demostrar que su tecnología no tiene efectos nocivos (...) pero ahora está sucediendo al revés: cada usuario tiene que demostrar los daños.

 

Artificial_Intelligence_LOVE_&_LifeAlighayoor, CC BY-SA 4.0 <https://creativecommons.org/licenses/by-sa/4.0>, via Wikimedia Commons

 

Anonimato en la Red

 

La línea fundamental de mi blog son reflexiones sobre cómo podemos mejorar el mundo en que vivimos y al publicar con mi auténtico nombre a veces he tenido cierto temor a que personas que conozco y leen mi blog (realmente pocas), puedan considerar que tengo cierta ideología o incluso que soy un poco rarito por pensar o por publicar estas cosas.

Creo que siempre he intentado publicar mis ideas justificando los razonamientos que llevan a ellas y seguro que en algunos casos son erróneos pero lo cierto es que casi nunca recibo ningún feedback en forma de comentarios que podrían abrir algún debate.

Lo cierto a la vista de las estadísticas de mi blog es que no me lee casi nadie y los que lo hacen pocas veces se ven movidos a comentar lo que digo.

Publicar mis ideas es una de las cosas que me hacen ser más feliz. Esto de poder poner tus ideas y reflexiones en un sitio que cualquiera puede ver, quizá esperando que algún día, puedan ayudar a alguien no se aún de qué forma, a ser mejor persona, a luchar por mejorar el mundo, a conseguir que el mundo sea más justo es un sueño que nunca antes de esta era tecnológica se podía plantear.

Pese a todo, hay reflexiones que he hecho a lo largo de mi vida que no me he atrevido a publicar porque según quien lo lea podría resultar perjudicial para las relaciones personales en mi vida cotidiana.

Y es que ¿publicar en internet es un ejercicio de riesgo?. Bueno depende de lo que se publique, si uno publica recetas de cocina, recomendaciones para hacer deporte o información general no tiene porqué ser perjudicial. Cuando entramos en las opiniones políticas la cosa cambia.


Aquí entra el tema del anonimato en la red, este anonimato que algunos usan para insultar y difundir mensajes de odio pero que otros usan (usamos) para poder expresarnos en la red con total libertad.

Es cierto, he publicado opiniones en foros o en Twitter con un usuario anónimo y solo así me siento con total libertad de expresar lo que pienso. En este blog publico con libertad y lo que pienso pero a veces le doy dos vueltas antes de dar al botón de publicar, porque no quiero herir susceptibilidades.

Recientemente he leído un artículo de Borja Adsuara Valera (@adsuara en Twitter) donde plantea justamente este problema y una posible solución para facilitar, por un lado el anonimato y por otro, evitar la impunidad de los que insultan, mienten y difunden mensajes de odio. Cierto es que entiendo que las fuerzas de seguridad del estado ya pueden actuar contra ciertos mensajes que puedan ser delictivos pidiendo información del origen del mismo a la red social o al operador desde donde se conecta el autor, aunque es cierto que el rastreo de un autor por internet si éste tiene interés en ello, se puede dificultar.

En dicho artículo se comenta:

“el pseudónimo permite expresar libremente nuestras opiniones sobre temas polémicos sin temor a ser víctima de represalias, personales o profesionales. “

Lo que cuadra justo con lo que comentaba, es ideal para tener libertad de expresión sin miedo a represalias pero también evita el abuso de dicho anonimato para mentir, insultar o expandir el odio.

Y es que el anonimato puede crear en ciertas personas una sensación de impunidad que puede llevarles a realizar acciones que nunca harían si alguien pudiera verles y es algo que ya se conoce desde cientos de años como ya describía, en la antigua Grecia, el “Mito del Anillo de Giges” (¿quizá la inspiración de Tolkien para “el Señor de los Anillos”?).

 

VCostume (V de Vendetta), Nicholas Ramey (SavvyPyrate), CC BY 2.0 <https://creativecommons.org/licenses/by/2.0>, via Wikimedia Commons

Anillo unico. Xander, Public domain, via Wikimedia Commons

¿Hay democracia en el mundo?

A la vista de que en muchos países se celebran elecciones uno podría pensar que en el mundo la democracia es el sistema más habitual pero si uno lee mi anterior entrada del blog y contempla este mapa de Reporteros sin Fronteras sobre la situación de la libertad de prensa en 2023 nos damos cuenta de que para nada, que aún hay mucho que mejorar.

 

Cuando el color verde sea el predominante en el mundo las democracias estarán siendo fiscalizadas y la gente podrá votar con conocimiento.

Nos queda mucho por mejorar y la libertad de prensa es una de nuestras asignaturas pendientes.

 

Imagen: HOME_CP_CLASSEMENT_FINAL.png, https://rsf.org/es Pública

El cuarto poder: la prensa

 

Es habitual, al hablar de democracia, contemplar como una base de la misma la separación de poderes: el ejecutivo, el legislativo y el judicial.

Pero no hay que olvidar que en una democracia como señalé en la entrada el valor de la democracia no es solo separación de poderes y poder votar cada cuatro años.

 

Un aspecto fundamental es la libertad de prensa que debe fiscalizar las labores del gobierno de eso trata la entrada de hoy.

 

De hecho considero a la prensa como un cuarto poder que debe mantenerse aislado de los otros tres.

 

Y como los demás poderes debe obedecer a un marco legal establecido democráticamente. 

 

En democracia la gente vota y ¿qué hace a a gente votar una u otra opción? 

 

Pues en muchos casos da la impresión de que hay gente que como hooligans de un equipo de fútbol van a votar siempre al mismo partido, pase lo que pase. Esta gente considero que hace un flaco favor a la democracia. Uno puede tener cierta afinidad por unas ideas, sentirse de izquierdas o de derechas pero hay que ser critico con lo que se vota y comprobar que un partido cumple con lo que promete. También, los muchos casos de corrupción que desgraciadamente siguen saliendo, es algo que debería tenerse en cuenta de cara a confiar o no en un partido. Aquí la prensa juega un papel fundamental, ayudando a los ciudadanos a valorar si los partidos una vez en el gobierno cumplen con su programa y como no, destapando casos de corrupción que sin una prensa libre pueden quedar ocultos a la ciudadanía.

En función de donde uno ha nacido o ha vivido, las experiencias de su vida son las que marcan la afinidad por uno u otro partido. Sin entrar sin son mejores izquierdas o derechas, sin duda el hecho de que la gente vote por ambos extremos es una clara muestra de que ninguna de esas ideologías son definitivamente mejores a las otras. La prensa no cabe duda de que interviene en las mentes de los ciudadanos señalando lo que los diferentes partidos hacen o dicen. Como habitualmente la prensa no es independiente trata de crear afinidad por su ideología. Asumiendo que ciertos periódicos son afines a ciertos partidos o ideologías, igual que no se puede permitir que el gobierno controle o censure la prensa tampoco es admisible que en base a su libertad de prensa no se cumplan unos principios éticos mínimos donde la mentira o la difamación puedan tolerarse como algo normal.

 

En democracia hay que jugar limpio, publicar informaciones sin contrastar su veracidad o incluso utilizando pruebas falsas producen un gran daño a la democracia y considero que es algo que debería ser sancionable.

Insultar, descalificar, inventar bulos o directamente mentir sobre los políticos no afines, no es una opción si queremos una democracia saludable y la prensa debe ser ejemplar en esto.

 

En una democracia los ciudadanos son la base de la voluntad de la soberanía, una prensa sesgada que presume de ser neutra condicionará a la gente para que actúe incluso en contra de su propios intereses.

 

En democracia es lógico que cada uno mire por sus propios intereses y utilizar la prensa para convencer a los votantes de que mis intereses son los intereses de la mayoría es muy tentador.

 

Por ello es fundamental la educación. Enseñar a los niños a ser excépticos, a tener altura de miras, a no creerse todo lo que leen o oyen y a pensar por sí mismos es fundamental para la calidad de la democracia.

 

 

 

 

Imagen: Periódicos (Prensa escrita). Banco de imágenes y sonidos INTEF (CC BY-NC-SA 3.0)