Cómo crear una IA «humilde»

Un equipo liderado por el MIT está diseñando sistemas de inteligencia artificial para el diagnóstico médico que son más colaborativos y transparentes sobre su incertidumbre. Estos sistemas 'humildes' revelan cuando no están seguros en sus diagnósticos o recomendaciones, animando a los médicos a recopilar información adicional. El marco propuesto incluye módulos computacionales como el Epistemic Virtue Score para evaluar la certeza propia de la IA y fomentar la colaboración humano-IA, evitando errores por sobreconfianza. Se basa en bases de datos como MIMIC y busca incluir perspectivas globales para reducir sesgos.