Implicación del profesional sanitario
En este sentido, es fundamental la confiabilidad en la IA por parte de los profesionales en los hospitales. Por ejemplo, a diferencia de los resultados de la Medicina Basada en la Evidencia que es el resultado de estudios clínicos soportados por la estadística convencional, la imposibilidad de la comprensión humana sobre cómo llegan los algoritmos a sus resultados se ha identificado como una de las barreras fundamentales de su aplicación efectiva en medicina.
Esta limitación ha sido identificada por los usuarios de sistemas de IA en EEUU como una barrera fundamental. De hecho, es sabido que habitualmente los oncólogos que usan IA en EEUU solo confían en sus recomendaciones si estas coinciden con las que ellos consiguen mediante su proceso cognitivo convencional.
Hay que desatacar además que la Agencia de Proyectos de Investigación Avanzados de Defensa de EEUU (DARPA), de la cual surgió el originario Internet (Darpanet), está desarrollando una iniciativa de investigación muy ambiciosa llamada Explainable Artificial Inteligence (XAI) para desarrollar métodos y herramientas para hacer explicables para el humano las decisiones que proponen los algoritmos de IA.
Cualquier avance en este sentido será fundamental para una aceptación, tanto de los profesionales como de las autoridades sanitarias, aunque los científicos de la IA consideran que es un reto de extrema dificultad, sobre todo en lo que concierne al aprendizaje profundo (Deep Learning). En esta línea, socios franceses y de Irlanda del Norte del proyecto europeo DESIREE (Decision Support and Information Management System for Breast Cancer), liderado desde España por Vicontech, han publicado resultados muy interesantes de uso de IA para el razonamiento basado en casos de cáncer de mama.
