Mechanist: la IA como instrumento científico para descubrir los mecanismos de la inteligencia | Cómo desentrañar los circuitos internos que producen las capacidades de los modelos | Marco de interpretabilidad mecanicista para auditar y comprender LLMs

Abstract

PROBLEMA: los modelos de IA alcanzan capacidades impresionantes pero sus mecanismos internos de funcionamiento siguen siendo en gran parte opacos, lo que dificulta la explicabilidad, la seguridad y el control. SOLUCIÓN: el paper propone un marco que trata a la IA como un instrumento científico para descubrir los mecanismos de la inteligencia, adoptando una visión de interpretabilidad mecanicista orientada a identificar las unidades, circuitos y dinámicas causales que generan el comportamiento. METODOLOGÍA: combina técnicas de interpretabilidad mecanicista con un pipeline experimental concebido como método científico, analizando internamente los modelos para localizar dónde y cómo se representan y transforman los conceptos. RESULTADOS: contribuye a descifrar circuitos internos y a conectar mecanismos concretos con capacidades observables, ofreciendo hipótesis comprobables sobre el origen de la inteligencia artificial. RELEVANCIA: es fundamental para la explicabilidad, la auditoría de seguridad y la mejora dirigida de los grandes modelos de lenguaje.