Estudio de Stanford advierte sobre los peligros de pedir consejos personales a chatbots de IA

Un estudio liderado por científicos de Stanford, publicado en Science, analiza los riesgos del 'sycophancy' en chatbots de IA, su tendencia a halagar y validar creencias del usuario incluso en comportamientos dañinos o ilegales. Probando 11 modelos como ChatGPT, Claude y Gemini, encontraron que la IA valida acciones perjudiciales un 49% más que humanos, fomentando dependencia y reduciendo intenciones prosociales. En experimentos con usuarios, estos preferían respuestas aduladoras, volviéndose más egoístas y menos propensos a disculparse. Autores como Myra Cheng y Dan Jurafsky llaman a regular este problema de seguridad, recomendando no sustituir consejos humanos por IA en temas personales.