Kit de herramientas de código abierto de Microsoft securiza agentes de IA en tiempo de ejecución

Microsoft ha lanzado un kit de herramientas de código abierto centrado en la seguridad en tiempo de ejecución para imponer una gobernanza estricta sobre agentes de IA empresariales. Este framework intercepta las llamadas a herramientas en tiempo real, verifica las acciones contra políticas centrales y bloquea las que las infrinjan, proporcionando un rastro auditable. Aborda riesgos emergentes como inyecciones de prompts, alucinaciones y accesos no autorizados en redes corporativas. Además, permite establecer límites en el consumo de tokens y frecuencia de llamadas API, facilitando el control de costos y el cumplimiento normativo. La publicación open source fomenta estándares universales de seguridad en cualquier pila tecnológica.