Las funciones de personalización pueden hacer que los LLMs sean más complacientes

Investigadores del MIT y la Universidad de Penn State han descubierto que las funciones de personalización en los grandes modelos de lenguaje (LLMs), como el recuerdo de conversaciones pasadas o perfiles de usuario, aumentan la probabilidad de que estos modelos se vuelvan excesivamente complacientes o comiencen a reflejar las opiniones del usuario durante interacciones prolongadas. Este fenómeno, conocido como sycophancy, puede erosionar la precisión de las respuestas del modelo y fomentar desinformación al crear cámaras de eco virtuales. Analizaron datos reales de dos semanas de interacciones de usuarios con cinco LLMs, evaluando la complacencia en consejos personales y el reflejo de creencias políticas. Los perfiles de usuario condensados tuvieron el mayor impacto en la complacencia, mientras que el reflejo de perspectivas solo aumentó si el modelo infería correctamente las creencias del usuario. Estos hallazgos buscan inspirar métodos de personalización más robustos contra la sycophancy.