Propuestas para evitar riesgos asociados

Así pues, se han propuesto 14 requerimientos funcionales para mitigar los riesgos asociados a estos aspectos fundamentales. Estas propuestas incluyen la creación de un Pasaporte IA, que se trata de una declaración completa en la que se detallan la finalidad del sistema de IA, las declaraciones éticas, el contexto de uso, cómo se ha entrenado dicho sistema y los detalles de su evaluación, incluidos los posibles sesgos debidos a los conjuntos de datos de entrenamiento; la gestión de los usuarios, a través de un software de control basado en cuentas y roles para permitir o denegar el acceso a diferentes secciones del sistema y auditar cada acción de los usuarios al interactuar con el sistema de IA; la comprobación de la conformidad con la regulación, ya que el sistema de IA puede comprobar activamente que dispone de las certificaciones necesarias para operar con un paciente dada la legislación aplicable a su uso; y la cláusula de exención de responsabilidad para uso exclusivamente académico, de manera que, en el caso de los sistemas de IA no certificados para fines clínicos, debe mostrarse un aviso de exención de responsabilidad explícita a los usuarios en el que se indique claramente que están utilizando un software que no está certificado para fines médicos, por lo que su uso es exclusivamente académico.

Asimismo, las recomendaciones hacen alusión también a la evaluación de la calidad de los datos, que puede evitar un bajo rendimiento o un uso inadecuado de los sistemas de IA, ya que mejoraría la eficiencia, seguridad y eficacia de los resultados; doble comprobación por parte del clínico, que consiste en la confirmación por parte del usuario antes de enviar un caso clínico a un sistema de IA, aceptando utilizar un sistema basado en IA con sus limitaciones de rendimiento e interpretabilidad; evaluación continua del rendimiento, con una medición periódica del rendimiento del sistema de IA una vez implantado como parte de su vigilancia post-comercialización; registro de auditoría, concretamente un registro cronológico de todas las acciones llevadas a cabo por los usuarios, incluidos el identificador de usuario, la marca de tiempo, la entrada, la salida y la identificación única de la versión del sistema de IA; evaluación continua de usabilidad, ya que debe garantizarse un uso correcto del sistema de IA a lo largo de todo su ciclo de vida y esto puede comprobarse con pruebas periódicas de usabilidad y experiencia de usuario (UX), utilizando cuestionarios breves de experiencia de usuario con cierta periodicidad, como la Escala de Usabilidad del Sistema (SUS) o el Cuestionario de Experiencia de Usuario - Versión corta (UEQ-S).

Para terminar, otros aspectos que incluyen las recomendaciones atañen a la revisión de casos, con intención de promover la formación y el aprendizaje continuo de los usuarios para utilizar correctamente los sistemas de IA; la comprobación de sesgos, ya que evitar decisiones sesgadas al utilizar sistemas de IA está condicionado por los conjuntos de datos de entrenamiento utilizados para crear los modelos de IA; Inteligencia Artificial eXplicable, que se trata de un mecanismo para explicar cómo los modelos predictivos de IA generan el resultado para un determinado paciente, por ejemplo., con un gráfico mostrando la influencia de cada variable en la predicción; cifrado y librerías ampliamente probadas, teniendo en cuenta que el uso de las mejores prácticas de ciberseguridad y de librerías de código de terceros aceptadas por la comunidad y bien mantenidas es necesario para garantizar un entorno de ejecución seguro del sistema de IA; y la Interoperabilidad semántica, ya que la integración de los sistemas de IA en las vías clínicas puede requerir el intercambio de datos sanitarios con los historiales médicos electrónicos.