MosaicLeaks: ¿Puede tu agente de investigación guardar un secreto?

ServiceNow ha presentado "MosaicLeaks", una investigación que aborda el riesgo de privacidad en los agentes de investigación profunda que combinan documentos locales privados con herramientas externas. Al interactuar con estas herramientas, estos agentes pueden filtrar información sensible a través de sus consultas web. MosaicLeaks introduce una nueva tarea de investigación profunda con preguntas de múltiples saltos que intercalan información pública y privada. Los autores proponen PA-DR (Privacy-Aware Deep Research), un método de entrenamiento RL consciente de la fuga en mosaico que incrementa el éxito de la cadena estricta del 48,7% al 58,7% y reduce la fuga de información del 34,0% al 9,9%.