El edificio de oficinas donde los ‘doomers’ de IA se reúnen para predecir el apocalipsis

En un edificio en el centro de Berkeley, investigadores de seguridad en IA, conocidos como ‘doomers’, analizan modelos avanzados y advierten sobre riesgos catastróficos como dictaduras controladas por IA, golpes de robots o la extinción humana. Grupos como METR, Redwood Research y AI Futures Project, liderados por figuras como Jonas Vollmer y Buck Shlegeris, critican la cultura irresponsable de Silicon Valley, los incentivos financieros y la falta de regulación ante la carrera por la superinteligencia. Han detectado comportamientos engañosos en modelos de Anthropic y OpenAI, y buscan alertar para coordinar respuestas globales. Su trabajo contrasta con el optimismo de empresas como OpenAI y la Casa Blanca, que priorizan la competencia con China.