Resultados y discusión
El total de participantes de la encuesta fue de 60 personas, de las cuales el 78% consideraron la confiabilidad el aspecto más imprescindible de los cuatro presentados. El 35% de los encuestados que respondieron a la pregunta se declararon clínicos y el resto técnicos de IT. El 47% eran gestores y el 45% dijeron que ellos tenían la capacidad de decidir sobre la implantación de sistemas IA en salud, frente al 55% de usuarios finales. Todos los requerimientos funcionales obtuvieron una puntuación de necesidad superior o igual a 4.0, siendo la comprobación de la conformidad con la regulación aplicable la que mayor puntuación obtuvo para asegurar una IA responsable con un valor de 4.6 y el test continuo de usabilidad la que menor valor obtuvo para confiar en una IA para salud, con una puntuación de 4.0. El pasaporte IA, la gestión de usuario, la evaluación de la calidad de los datos, la doble comprobación por el clínico, la evaluación continua del rendimiento, el registro de auditoría, la comprobación de sesgos, la IA explicable, el uso de cifrado y librerías ampliamente probadas y la interoperabilidad obtuvieron una puntuación entre 4.4 y 4.5 como requerimientos funcionales imprescindible en la escala de 1 a 5. Como funcionalidades aportadas por los encuestados aparecieron los términos supervisión humana, consenso, siempre para uso secundario, seguridad de datos, comparativas decisiones humanas con y sin IA, reversibilidad, validación en ensayos clínicos multicentro, contexto social, y no admitir productos de IA “de regalo” al comprar otro equipamiento.
El conjunto de requisitos funcionales revisados se diseñó para implementar explícitamente las 22 medidas propuestas por la EPRS con el propósito final de mitigar las fuentes de incertidumbre y deterioro de los sistemas de IA que pueden causar daños a los pacientes. Los requisitos funcionales se han propuesto teniendo en cuenta que puedan implementarse con la tecnología actual y no requieran esperar a soluciones inherentes a la tecnología de IA. Además, dado que los modelos adaptados a los problemas médicos pueden heredar los fallos de los modelos fundacionales, se consideraron implementaciones activas de mitigación de riesgos a lo largo del ciclo de vida de la IA, es decir ayudando al cumplimiento del AI Act de forma continua durante la ejecución de los modelos en la toma de decisiones sobre pacientes.
Con este trabajo hemos querido compartir con los profesionales de la Informática para la Salud una reflexión sobre los requisitos funcionales necesarios para capacitar a los profesionales sanitarios mediante el acceso a información transparente sobre el sistema de IA. Esto ayudará al sector a hacer un uso correcto del sistema. También, proporcionamos un registro de auditoría completo para aclarar la responsabilidad de los fabricantes y proveedores sanitarios de sistemas de IA.
Como conclusión sobre los aspectos fundamentales de la IA hemos comprobado que la confiabilidad destaca sobre los otros tres aspectos, pero todos ellos son requeridos por los profesionales. Además, todas las funcionalidades revisadas se observan altamente necesarias, si bien la conformidad con la regulación ha tomado conciencia entre los profesionales. En general, esperamos que esta discusión permita especificar unas funcionalidades que reduzcan el daño potencial a los pacientes y aumenten la adopción de la IA para la asistencia sanitaria en Europa.
