Un algoritmo de IA es un modelo matemático que aplica las propiedades de los datos utilizados en su entrenamiento a nuevos datos para un propósito determinado.El uso de la Inteligencia Artificial (IA en adelante) ha sido posible gracias a la utilización de grandes datos etiquetados, junto con una gran potencia de computación, principalmente en la nube. En nuestros hospitales, esto está empezando a tener un impacto a través de una interpretación de imágenes rápida y precisa, así como para el soporte a las decisiones clínicas, mejorando la efectividad de dichas decisiones y reduciendo los errores médicos. Y para los pacientes, permitiéndoles el uso de sus propios datos para promover su salud individual.

En este sentido, los profesionales de la medicina pueden realizar un análisis más preciso y detallado de los datos sanitarios complejos de un paciente, incluso antes de que este enferme, y proporcionar un tratamiento preventivo personalizado. Por ejemplo, en el contexto del envejecimiento de la población, las tecnologías de IA pueden ser herramientas valiosas para ayudar a los cuidadores, apoyar la atención a las personas mayores y supervisar en tiempo real las condiciones de los pacientes.

Sin embargo, existen actualmente retos importantes relacionados con los sesgos, la privacidad y la seguridad del paciente, así como con la falta de transparencia y de entendibilidad. No es oro todo lo que reluce y es relevante tener en cuenta la importancia de la calidad de los datos de origen para el entrenamiento de los modelos, así como los aspectos bioéticos y de seguridad del paciente.

Retos en el desarrollo de la IA

Es importante huir de falsos profetas de la IA en Sanidad, que prometen resultados inmediatos espectaculares con poco esfuerzo e inversión. La IA es una disciplina científica de largo recorrido y aplicación, incluso en medicina. En España hay excelentes científicos en las universidades y tecnólogos en las empresas de la IA de reconocimiento verdadero nacional e internacional, y es importante tener en cuenta esto. Estamos hablando de seguridad del paciente.

¿Alguien confiaría en una empresa farmacéutica y en sus productos, sin que estos hubieran pasado por ensayos clínicos, con una trayectoria de solo 2-3 años, y liderada por un supuesto experto cuya experiencia en el desarrollo de fármacos no va más allá de 4-5 años?

¿Por qué lo hacemos en el ámbito de la IA? ¿Por qué aceptamos a los vendedores de crecepelo que aparecen contando lo que queremos escuchar desde lo alto de un carromato? ¿Por qué para elegir IA cambiamos Pubmed por YouTube, TEDx o supuestas universidades internacionales?

Tal como indica el grupo de expertos de alto nivel para el asesoramiento en Inteligencia Artificial que constituyó la Comisión Europea, en su informe “Ethics Guidelines for Trustworthy AI”, aunque existe un marco legal, es posible que este no aborde toda la gama de preocupaciones éticas que puedan surgir. Las circunstancias irán variando a medida que nuestra comprensión de la idoneidad de las normas y los principios éticos evolucionen.

Por ejemplo, una preocupación es la identificación y seguimiento de personas mediante IA. La IA permite la identificación cada vez más eficiente de personas individuales. La identificación de las personas es a veces el resultado deseable, en consonancia con los principios éticos (por ejemplo, por seguridad del paciente). Sin embargo, se necesita un uso proporcionado de las técnicas de control en la IA para mantener la autonomía de los pacientes.

Otra preocupación son los sistemas encubiertos de IA. Los pacientes y profesionales sanitarios deben saber siempre si están interactuando directamente con otro ser humano o con una máquina, y es responsabilidad de los practicantes de la IA que esto se logre de manera fiable.

Implicación del profesional sanitario

En este sentido, es fundamental la confiabilidad en la IA por parte de los profesionales en los hospitales. Por ejemplo, a diferencia de los resultados de la Medicina Basada en la Evidencia que es el resultado de estudios clínicos soportados por la estadística convencional, la imposibilidad de la comprensión humana sobre cómo llegan los algoritmos a sus resultados se ha identificado como una de las barreras fundamentales de su aplicación efectiva en medicina.

Esta limitación ha sido identificada por los usuarios de sistemas de IA en EEUU como una barrera fundamental. De hecho, es sabido que habitualmente los oncólogos que usan IA en EEUU solo confían en sus recomendaciones si estas coinciden con las que ellos consiguen mediante su proceso cognitivo convencional.

Hay que desatacar además que la Agencia de Proyectos de Investigación Avanzados de Defensa de EEUU (DARPA), de la cual surgió el originario Internet (Darpanet), está desarrollando una iniciativa de investigación muy ambiciosa llamada Explainable Artificial Inteligence (XAI) para desarrollar métodos y herramientas para hacer explicables para el humano las decisiones que proponen los algoritmos de IA.

Cualquier avance en este sentido será fundamental para una aceptación, tanto de los profesionales como de las autoridades sanitarias, aunque los científicos de la IA consideran que es un reto de extrema dificultad, sobre todo en lo que concierne al aprendizaje profundo (Deep Learning). En esta línea, socios franceses y de Irlanda del Norte del proyecto europeo DESIREE (Decision Support and Information Management System for Breast Cancer), liderado desde España por Vicontech, han publicado resultados muy interesantes de uso de IA para el razonamiento basado en casos de cáncer de mama.

Necesidades para un correcto desarrollo

Para el entrenamiento de los modelos de IA es fundamental que los datos de origen sean de calidad, y este es un asunto pendiente que solo se resolverá mediante la necesaria evolución de las historias digitales de salud que usan nuestros hospitales. Los avances en procesamiento del lenguaje natural mediante la propia aplicación de la IA son también fundamentales para la mejora de la calidad de los datos entre otras aplicaciones en sanidad, mediante el reconocimiento, acceso y curación de los datos a partir de los textos de información clínica en las historias de salud digitales. La iniciativa del Plan de Impulso de las Tecnologías del Lenguaje de la Secretaria de Estado de Avance Digital es una evidencia de que el Gobierno de España sí está en esto.

También, y desde el punto de vista de la ética y la legalidad, hay que resolver y facilitar el uso secundario masivo de los datos de la asistencia sanitaria para dicho entrenamiento de los modelos, donde la legitimidad y factibilidad de dicho uso secundario masivo sigue requiriendo un marco claro. Una referencia relevante para los hospitales, tanto públicos como privados, es el informe de la Agencia Española de Protección de Datos sobre el impacto del Reglamento de Protección de Datos en la investigación biomédica.

En todo caso, es necesario publicar los resultados de los experimentos de uso de la IA en revistas científicas revisadas por pares y su validación en la medicina del mundo real, antes de que se pueda llevar a cabo la implementación en la atención real del paciente.

Futuro inmediato de la IA

Como muestra de la necesidad y a su vez de la gran dificultad regulatoria de esta tecnología sanitaria, y para una incorporación efectiva del uso de la IA a los hospitales, la FDA de Estados Unidos ha publicado una propuesta de marco regulatorio del mercado de productos de IA, actualmente en consulta pública. Dicha propuesta está basada en considerar la IA como un dispositivo médico y, específicamente, se basa en el modelo de aceptación de los cambios en dichos dispositivos por parte de la agencia.

Como conclusión, aunque la IA en nuestros hospitales se enfrenta a retos importantes que en este artículo solo hemos esbozado, también podemos entender que es una tecnología que ha venido para quedarse, que va a transformar de manera drástica la forma de aprender y trabajar de nuestros profesionales, la propia organización de los hospitales y de los proveedores sanitarios, así como las relaciones entre todos los agentes siendo especialmente relevantes las relaciones con cada uno de los pacientes.

Nuestro Sistema Nacional de Salud es la envidia del mundo, sus datos lo avalan. Pero nos encontramos en un momento histórico con la incorporación de la IA a la medicina y a la salud. En este sentido, se hace necesaria una apuesta estratégica de país por la promoción de una fuerte inversión tanto en formación como en I+D+i en IA aplicada a la sanidad, asegurando los resultados futuros de dicho SNS e incluso promoviendo una industria española en este sector que sea fuente de riqueza. La estrategia de IA de España es un importante avance, pero requiere ir mucho más allá en sanidad.