Evaluando la ética de los sistemas autónomos

Investigadores del MIT han desarrollado SEED-SET, un marco de evaluación automatizado que identifica situaciones en las que los sistemas de apoyo a decisiones basados en IA no tratan de forma justa a personas y comunidades en entornos de alto riesgo, como redes eléctricas. El sistema equilibra resultados medibles como coste y fiabilidad con valores subjetivos como la equidad, utilizando un modelo de lenguaje grande como proxy para preferencias humanas. Selecciona escenarios clave para pruebas, revelando dilemas éticos inesperados antes del despliegue y evitando evaluaciones manuales costosas.