Retos en el desarrollo de la IA
Es importante huir de falsos profetas de la IA en Sanidad, que prometen resultados inmediatos espectaculares con poco esfuerzo e inversión. La IA es una disciplina científica de largo recorrido y aplicación, incluso en medicina. En España hay excelentes científicos en las universidades y tecnólogos en las empresas de la IA de reconocimiento verdadero nacional e internacional, y es importante tener en cuenta esto. Estamos hablando de seguridad del paciente.
¿Alguien confiaría en una empresa farmacéutica y en sus productos, sin que estos hubieran pasado por ensayos clínicos, con una trayectoria de solo 2-3 años, y liderada por un supuesto experto cuya experiencia en el desarrollo de fármacos no va más allá de 4-5 años?
¿Por qué lo hacemos en el ámbito de la IA? ¿Por qué aceptamos a los vendedores de crecepelo que aparecen contando lo que queremos escuchar desde lo alto de un carromato? ¿Por qué para elegir IA cambiamos Pubmed por YouTube, TEDx o supuestas universidades internacionales?
Tal como indica el grupo de expertos de alto nivel para el asesoramiento en Inteligencia Artificial que constituyó la Comisión Europea, en su informe “Ethics Guidelines for Trustworthy AI”, aunque existe un marco legal, es posible que este no aborde toda la gama de preocupaciones éticas que puedan surgir. Las circunstancias irán variando a medida que nuestra comprensión de la idoneidad de las normas y los principios éticos evolucionen.
Por ejemplo, una preocupación es la identificación y seguimiento de personas mediante IA. La IA permite la identificación cada vez más eficiente de personas individuales. La identificación de las personas es a veces el resultado deseable, en consonancia con los principios éticos (por ejemplo, por seguridad del paciente). Sin embargo, se necesita un uso proporcionado de las técnicas de control en la IA para mantener la autonomía de los pacientes.
Otra preocupación son los sistemas encubiertos de IA. Los pacientes y profesionales sanitarios deben saber siempre si están interactuando directamente con otro ser humano o con una máquina, y es responsabilidad de los practicantes de la IA que esto se logre de manera fiable.
