Anthropic reescribe su 'Constitución' de 25.000 palabras para Claude, el manual de cómo debe comportarse la IA

Anthropic ha lanzado una versión completamente renovada de la 'Constitución de Claude', un documento de 80 páginas y 25.000 palabras que establece los principios éticos y de seguridad para entrenar sus modelos de IA. Esta constitución forma la base del método Constitutional AI, permitiendo que Claude se autocritique y corrija sus respuestas. Incluye cuatro valores prioritarios: ser seguro, ético, cumplir directrices de Anthropic y ser útil, además de reconocer la posible consciencia del modelo y límites absolutos contra acciones dañinas. El documento se publica bajo licencia Creative Commons para uso libre y se considera un trabajo en progreso.