Microsoft lanza kit de herramientas open-source para securizar agentes de IA en tiempo de ejecución

Microsoft ha lanzado un nuevo kit de herramientas de código abierto centrado en la seguridad en tiempo de ejecución para imponer una gobernanza estricta sobre agentes de IA empresariales. Este toolkit intercepta las llamadas a herramientas en tiempo real, verifica las acciones contra políticas de gobernanza y bloquea las no autorizadas, proporcionando un rastro auditable de decisiones autónomas. Aborda la ansiedad creciente por agentes autónomos que ejecutan código y acceden a redes corporativas más rápido que los controles tradicionales, previniendo ataques como inyecciones de prompts o alucinaciones. Facilita la gestión de costos de tokens y cumplimiento normativo al limitar acciones y consumo de recursos. Su liberación open-source permite integración en cualquier pila tecnológica, promoviendo estándares abiertos en seguridad de IA agentiva.