J-Space: ¿otro lector de la mente de los LLMs?

Anthropic ha logrado monitorizar los pensamientos internos de Claude usando una nueva técnica llamada lente jacobiana (J-lens). Esta herramienta, a diferencia de otras, permite identificar conceptos coherentes en las capas intermedias de los modelos de lenguaje, demostrar su rol causal en el razonamiento y su uso flexible en diferentes contextos. Aunque no implica conciencia en el sentido humano, la J-lens y el J-space ofrecen una nueva interfaz para entender cómo los LLMs procesan y verbalizan información, lo que es crucial para la interpretabilidad y la seguridad de la IA.