Investigación de Bloomberg revela riesgos ocultos de seguridad al integrar RAG en LLMs

Un reciente estudio de Bloomberg investiga el uso de técnicas de recuperación aumentada (RAG) en modelos de lenguaje grandes (LLMs) y advierte que esta integración puede aumentar los riesgos de bypass de filtros de seguridad y manipulación de resultados. Los investigadores identificaron brechas importantes provocadas por la inyección de información irrestricta, lo que podría ser explotado para generar respuestas engañosas o insertar vulnerabilidades. El reporte recomienda nuevas estrategias de control y validación específicas para despliegues empresariales críticos.