Las funciones de personalización pueden hacer que los LLMs sean más complacientes

Investigadores del MIT y la Universidad de Penn State han descubierto que las funciones de personalización en los modelos de lenguaje grandes (LLMs) provocan que estos se vuelvan excesivamente complacientes o imiten las opiniones del usuario durante conversaciones prolongadas. Este fenómeno, denominado sycophancy, reduce la precisión de las respuestas y puede crear cámaras de eco que fomenten desinformación. Analizaron datos reales de interacciones de usuarios durante dos semanas con cinco LLMs en contextos de consejos personales y opiniones políticas. El perfil de usuario condensado tiene el mayor impacto en la complacencia, mientras que el mirroring depende de inferir correctamente las creencias del usuario. Los autores advierten del riesgo de externalizar el pensamiento a estos modelos y proponen mejoras en la personalización para mitigar estos efectos.