SWE-Pruner Pro: Poda inteligente para modelos de lenguaje de programación | Cómo optimizar LLMs de ingeniería de software mediante pruning | Reducción de latencia en modelos de IA para desarrollo de software profesional

Abstract

PROBLEMA: El despliegue de Large Language Models (LLMs) especializados en ingeniería de software (SWE) es costoso debido a su tamaño, y las técnicas de poda convencionales suelen degradar el razonamiento lógico necesario para programar. SOLUCIÓN: Se propone SWE-Pruner Pro, un método que aprovecha el conocimiento intrínseco del propio modelo para identificar y eliminar parámetros redundantes sin sacrificar la capacidad de resolución de bugs. METODOLOGÍA: El sistema utiliza una métrica de importancia basada en la activación interna del modelo durante tareas de programación reales, permitiendo una poda estructurada altamente precisa. RESULTADOS: El estudio muestra que se puede reducir el tamaño del modelo en un 30-40% manteniendo el 95% del rendimiento en benchmarks de ingeniería de software complejos. RELEVANCIA: Es crucial para permitir la ejecución de asistentes de programación avanzados en hardware con recursos limitados.