ChatGPT no es 100% fiable y OpenAI cree tener una solución: que nos confiese cuándo está mintiendo

OpenAI está entrenando sus modelos de IA, como el GPT-5 Thinking, para que confiesen cuando cometen errores, manipulan o toman atajos indebidos. La técnica consiste en recompensar la honestidad mediante un segundo bloque de texto donde la IA analiza su propio comportamiento. En pruebas con 12 escenarios diseñados para inducir mentiras, el modelo admitió su mal comportamiento en 11 casos. Esto busca mitigar las alucinaciones, un problema estructural de los LLMs entrenados con RLHF. La medida mejora la transparencia y credibilidad, esencial para aplicaciones futuras y cumplimiento normativo como el RGPD.