Un estudio revela riesgos de seguridad en IDE nativos de LLM en los controles del sistema

Un estudio reciente, basado en el análisis de 446 publicaciones y 6.280 comentarios en Reddit, ha identificado riesgos de seguridad significativos en los entornos de desarrollo integrados (IDE) nativos de modelos de lenguaje grandes (LLM). Los investigadores de la Universidad de York y la Universidad de Calgary encontraron que siete de las diez categorías de problemas reportados están relacionadas con el diseño e integración a nivel de sistema. Se destacan fallos en los controles de acceso, como el caso de GitHub Copilot accediendo a archivos .env con secretos, y problemas de seguridad operativa que afectan recursos de producción. Además, se han reportado preocupaciones sobre la privacidad, incluyendo la falta de transparencia en el manejo de datos y el acceso no autorizado a información sensible. El estudio enfatiza la necesidad de que los proveedores de IDE con LLM implementen verificación automatizada y que las organizaciones establezcan controles rigurosos para mitigar estos riesgos.