Por qué las interfaces de IA para la salud deben adaptarse a la experiencia del usuario

Investigadores del MIT y colaboradores han descubierto que las herramientas de explicabilidad de la IA en el sector sanitario pueden producir resultados muy diferentes según el usuario. En el diagnóstico de enfermedades cutáneas, los no expertos mejoraron su precisión con la ayuda de la IA, aunque esta mejora se debió principalmente a que se remitieron al modelo. Los proveedores de atención primaria, sin embargo, obtuvieron mejores resultados cuando recibieron una predicción de IA sin una explicación. El estudio destaca la importancia de un diseño cuidadoso de las interfaces de IA en la salud para evitar sesgos de automatización y mejorar la seguridad del paciente.