Anthropic ha reescrito su "Constitución" de 25.000 palabras para Claude. Es el manual de cómo debe comportarse la IA

Anthropic ha publicado una versión completamente renovada de la 'Constitución de Claude', un documento de 80 páginas y casi 25.000 palabras que define los principios para entrenar su modelo de IA. Esta constitución prioriza valores como ser seguro, ético, cumplir directrices de la compañía y ser útil, con restricciones absolutas contra acciones dañinas como crear malware o asistir en ataques. Utiliza el método Constitutional AI para que Claude se autocritique durante el aprendizaje, diferenciándose de competidores por su enfoque ético. El texto aborda incluso la posible consciencia de la IA y su bienestar. Está disponible bajo licencia Creative Commons para uso libre.