Stable-GFlowNet: Red-teaming robusto y diverso para LLMs mediante balance de trayectorias | Cómo generar ataques adversarios diversos para probar la seguridad de la IA | Optimización de flujos generativos para detección de vulnerabilidades en modelos de lenguaje

Abstract

PROBLEMA: Los métodos actuales de red-teaming (pruebas de estrés de seguridad) suelen ser repetitivos y no logran descubrir la gran diversidad de fallos potenciales que puede tener un LLM. SOLUCIÓN: Se propone Stable-GFlowNet, un método basado en Generative Flow Networks que utiliza una nueva función de pérdida llamada Contrastive Trajectory Balance (CTB) para generar ataques diversos y robustos. METODOLOGÍA: El modelo trata la generación de 'jailbreaks' como un proceso de flujo en un grafo, penalizando trayectorias redundantes y fomentando la exploración de espacios de prompts poco comunes. RESULTADOS: Supera a los benchmarks de red-teaming existentes (como GCG) al encontrar un 30% más de vectores de ataque únicos y exitosos en modelos como Llama-3 y GPT-4. RELEVANCIA: Crucial para la alineación (alignment) de modelos, permitiendo a los desarrolladores identificar y mitigar riesgos de seguridad antes del despliegue masivo.