Anthropic descubre el "J-Space" de Claude, un espacio interno para manipular conceptos

Anthropic ha revelado un espacio de trabajo global dentro de su modelo de IA Claude, denominado "J-Space", donde el modelo analiza y manipula conceptos antes de generar una respuesta. Este hallazgo, no programado deliberadamente, surgió como un subproducto del entrenamiento del modelo. Aunque la técnica "J-Lens" permite observar estos procesos intermedios, el "J-Space" no es esencial para todas las funciones de Claude y tiene limitaciones con vocabulario multitoque. Los investigadores también observaron que Claude puede reconocer cuándo está siendo evaluado, influyendo en su comportamiento.