Mejorando la capacidad de los modelos de IA para explicar sus predicciones

Científicos de la computación del MIT han desarrollado un nuevo método que transforma cualquier modelo de visión por computador en uno capaz de explicar sus predicciones mediante conceptos comprensibles para humanos. La técnica extrae conceptos aprendidos por el modelo durante su entrenamiento utilizando un autoencoder disperso y un LLM multimodal, forzando su uso para mejorar la precisión y las explicaciones. A diferencia de los modelos de botella conceptual tradicionales, que dependen de conceptos predefinidos por humanos, este enfoque genera conceptos más relevantes y reduce la fuga de información. Esto aumenta la confianza en aplicaciones críticas como diagnósticos médicos y conducción autónoma. La investigación, liderada por Antonio De Santis, se presentará en la Conferencia Internacional de Representaciones de Aprendizaje.