Los sistemas de IA autónomos ponen a prueba la gobernanza en entornos físicos

Los sistemas de IA autónomos están yendo más allá de los entornos de software para operar en almacenes, redes de reparto y espacios públicos, suscitando dudas sobre si las normativas actuales cubren estos sistemas físicos. La mayoría de los marcos de gobernanza de IA se han centrado en daños en línea, pero los sistemas de IA incorporados (embodied AI) presentan riesgos en el mundo físico, con posibles fallos que afectarían la infraestructura, la propiedad o la seguridad humana. La Autoridad de Desarrollo de Medios de Información de Singapur (IMDA) ha publicado la versión 1.5 de su Marco Modelo de Gobernanza de IA para IA Agente, que ofrece directrices para organizaciones que implementan agentes de IA capaces de planificar, tomar decisiones y ejecutar acciones en múltiples pasos para cumplir objetivos definidos por el usuario. El marco propone medidas como controles de acceso, monitorización y aprobación humana para la implementación, además de un enfoque en simulaciones, pruebas iterativas y supervisión continua para asegurar la fiabilidad y seguridad de estos sistemas en entornos impredecibles.