Carta abierta de 1.100+ investigadores de IA: Anthropic, OpenAI, DeepMind y Meta piden al gobierno de EEUU poder frenar el frontier AGI (julio 2026)

El 28 de julio de 2026, 1.178 empleados de los laboratorios de IA más punteros del mundo firmaron una carta abierta sin precedentes titulada "Pacing the Frontier". En un movimiento inédito por su tamaño y por venir desde dentro de las propias empresas, trabajadores de OpenAI, Anthropic, Google DeepMind, Meta AI, Thinking Machines e Inherent piden al gobierno de EEUU que apoye un esfuerzo internacional para construir las herramientas técnicas y de gobernanza necesarias para ralentizar deliberadamente el progreso del frontier AI si en algún momento fuera necesario. Entre los firmantes: Dario Amodei (CEO de Anthropic), Jakub Pachocki (chief scientist de OpenAI), Shengjia Zhao (chief scientist de Meta AI), Anca Dragan (VP de AI Safety de Google) y los cofundadores de Anthropic Jared Kaplan y Jack Clark. La cifra ha seguido creciendo tras la publicación.

Un movimiento sin precedentes desde dentro de los laboratorios

Hasta ahora, todas las cartas colectivas sobre riesgos de la inteligencia artificial venían empujadas por externos: académicos, activistas, fundaciones como el Future of Life Institute o el Center for AI Safety, y CEO de industrias adyacentes. La "Pause Giant AI Experiments" de marzo de 2023 la impulsó FLI con firmas de Elon Musk, Steve Wozniak, Yoshua Bengio o Yuval Noah Harari. La "Statement on AI Risk" de mayo de 2023 vino del CAIS con la famosa frase de una sola línea sobre el riesgo de extinción.

Lo que hace única a "Pacing the Frontier" es de dónde viene. La firma la ponen los propios empleados que están construyendo esos sistemas: 533 de Anthropic, 330 de OpenAI, 191 de Google (incluido personal de DeepMind), 62 de Meta y decenas más de startups como Thinking Machines de Mira Murati o Inherent. Del total, 867 firmaron con nombre y apellido y 267 lo hicieron de forma anónima, según el conteo público del 28 de julio. La versión del sitio del día 29 ya mostraba 1.178 firmas.

La carta llega en un momento delicado. Tres días antes del vencimiento del plazo del 1 de agosto marcado por la orden ejecutiva de junio, que exige a los laboratorios proponer un marco voluntario de acceso temprano a modelos frontier por parte del gobierno federal. Y llega tras varios episodios inquietantes: incidentes de sandbox escape reportados en modelos punteros, primeras señales de auto-mejora recursiva en agentes de código, y un debate creciente sobre cuánto tiempo queda antes de que los sistemas empiecen a automatizar la propia investigación en IA.

Qué pide la carta exactamente

El texto de "Pacing the Frontier" es sorprendentemente breve. Se articula en torno a una única frase central: el gobierno de EEUU debe apoyar un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para pausar deliberadamente el frontier del desarrollo automatizado de IA. Es decir, no piden pausar ahora. Piden que la opción de pausar exista mañana, si hiciera falta.

La distinción es clave y ha marcado toda la conversación posterior. La carta no exige un moratorio inmediato como la de 2023. Tampoco declara la superinteligencia una amenaza existencial como el CAIS. Lo que dice es más pragmático y, según sus defensores, más viable: hoy en día no existe la capacidad institucional, técnica ni internacional para ralentizar la carrera aunque toda la industria quisiera hacerlo. Esa capacidad hay que construirla antes de que sea necesaria, no cuando ya sea tarde.

Los 1.178 firmantes: quiénes son

El desglose por laboratorio publicado el 28 de julio, cuando el contador estaba en 1.134 firmas, es revelador. Anthropic aporta casi la mitad del peso con 533 firmantes, una cifra que representa un porcentaje enorme de la plantilla técnica de la compañía. OpenAI aporta 330, Google 191 (con equipos de DeepMind y del brazo comercial), y Meta apenas 62, la cifra más baja proporcionalmente. A eso se suman firmantes de Thinking Machines (la startup de Mira Murati, ex CTO de OpenAI), Inherent y otras empresas del ecosistema.

El desequilibrio Anthropic-Meta no es casual. Anthropic se ha construido desde 2021 con una identidad pública orientada a la seguridad, con investigadores procedentes de OpenAI que salieron en desacuerdo con la trayectoria de esa casa. Meta, en cambio, defiende una filosofía distinta: modelos abiertos, difusión rápida, y una postura mucho más escéptica sobre las tesis catastrofistas. Que 62 empleados de Meta hayan firmado es notable dentro de esa cultura interna; que 533 de Anthropic lo hicieran era casi previsible.

Los 267 firmantes anónimos merecen atención aparte. En un sector donde firmar una carta puede tensar relaciones con el empleador o con inversores concretos, el anonimato ofrece cobertura. La organización de la carta ha verificado internamente el vínculo laboral de esos firmantes sin publicar sus nombres. Es un mecanismo similar al usado por la carta de OpenAI de 2024 sobre derecho a advertir de los empleados de IA.

Firmantes destacados: Amodei, Pachocki, Zhao, Dragan

Dario Amodei, cofundador y CEO de Anthropic, es probablemente la firma con más peso simbólico. Amodei fue vicepresidente de investigación en OpenAI antes de salir en 2021 y ha sido durante años la voz más audible sobre plazos comprimidos hacia la AGI. Su firma personal en la carta refuerza la coherencia con la posición pública de la compañía, y llega semanas después de haber presentado su ensayo "Policy on the AI Exponential", donde detalla su marco personal sobre gobernanza y aceleración.

Jakub Pachocki, chief scientist de OpenAI y sucesor natural del rol técnico que dejó Ilya Sutskever, es la firma más significativa desde el lado de OpenAI. Se le suma Mark Chen, chief research officer de la casa, y una lista larga de investigadores senior. Es destacable que Sam Altman no aparezca entre los firmantes individuales aunque OpenAI como empresa haya endosado el texto. Esa asimetría se ha comentado abundantemente en prensa y en redes sociales.

Shengjia Zhao, chief scientist de Meta AI, y Anca Dragan, VP de AI Safety de Google, cierran el cuarteto de máximos responsables técnicos de los cuatro laboratorios grandes que firman a título personal. Junto a ellos, cofundadores de Anthropic como Jared Kaplan y Jack Clark, jefes de equipos de alineamiento, evaluaciones, políticas y comunicación de las cuatro casas. En conjunto es la coalición más senior de la industria expresándose en la misma dirección desde el interior de las empresas.

Herramientas concretas: compute governance, registros, red-teaming, kill switches

La carta es deliberadamente parca en detalles técnicos y ha delegado esa parte a documentos anexos y a la conversación pública que ha abierto. Del debate posterior emergen cuatro grandes categorías de herramientas que se están discutiendo.

Compute governance. Monitorización compartida entre jurisdicciones del hardware masivo dedicado a entrenamiento. La idea: los grandes clusters de GPU y aceleradores personalizados dejan huella verificable, y controlar quién ejecuta qué carga por encima de cierto umbral de FLOPs sería la palanca más práctica para pausar sin caer en un régimen policial sobre el software. Sam Hammond, Miles Brundage y otros analistas llevan meses proponiendo esquemas basados en firma criptográfica del silicio.

Model registries. Registros federales o internacionales de modelos frontier por encima de cierto umbral de capacidad. La orden ejecutiva estadounidense firmada en junio de 2026 ya contempla un marco voluntario de acceso temprano por 30 días antes del despliegue. La carta empuja hacia extender esa lógica y coordinarla con aliados internacionales, no dejarla en un mecanismo puramente nacional.

Red-teaming obligatorio y evaluaciones pre-despliegue. Un cuerpo independiente que evalúe capacidades peligrosas antes del lanzamiento de cualquier modelo que supere umbrales de razonamiento agente, auto-programación o manejo de vectores biológicos. El US AI Safety Institute y el UK AI Safety Institute ya realizan estas evaluaciones de forma voluntaria; la carta empuja a formalizarlas.

Kill switches y protocolos de pausa. Mecanismos coordinados para retirar o congelar un modelo desplegado si aparecen comportamientos peligrosos. En el Congreso estadounidense se debate desde primavera el llamado "AI Kill Switch Act", que otorgaría al Departamento de Seguridad Nacional autoridad para ordenar la desconexión de un modelo frontier que muestre autonomía y suponga amenaza creíble para infraestructura crítica. La carta no menciona esta ley por nombre pero encaja en su espíritu.

Cartas históricas comparadas: 2023 vs 2026

Para dimensionar el momento actual conviene ponerlo al lado de los tres precedentes más citados de esta década.

Tres diferencias operativas separan a "Pacing the Frontier" de sus predecesoras. Primera, el origen: por primera vez los firmantes son mayoritariamente empleados actuales de los laboratorios, no externos ni disidentes que salieron. Segunda, el tono: no exige pausa inmediata sino capacidad futura, lo que rebaja la resistencia natural del sector. Tercera, la coordinación empresarial: dos de las cuatro grandes casas (OpenAI y Anthropic) han endosado el texto a nivel corporativo.

Reacciones oficiales de los laboratorios

Anthropic lo respalda sin matices. La declaración pública de la compañía subraya que Dario Amodei, varios cofundadores y personal senior aparecen entre los firmantes, y encaja con la línea que la casa lleva defendiendo desde su fundación. Es el laboratorio donde el porcentaje de firmantes sobre plantilla es mayor.

OpenAI también endosa la carta como empresa. Es una nota destacable porque Sam Altman, a diferencia de Pachocki y Chen, no firma personalmente. La estrategia comunicativa parece buscar respaldar el gesto colectivo sin comprometer al CEO en un texto que podría interpretarse como respaldo indirecto a limitar la propia velocidad de la casa. Analistas del sector han leído en ese hueco un mensaje: la compañía apoya la conversación pero no quiere ser vista como líder del movimiento.

Google no ha emitido un endose corporativo formal similar. El apoyo se articula a través de las firmas individuales, entre ellas la de la VP de AI Safety Anca Dragan. La postura oficial de la casa se limita a un mensaje de "tomamos nota y participamos en foros internacionales de gobernanza".

Meta se ha mantenido notablemente callada. Con solo 62 firmantes internos y una filosofía pública muy centrada en open-weights y crítica hacia la agenda de riesgos catastróficos, la casa no ha hecho declaración empresarial. Yann LeCun, chief AI scientist de Meta, lleva años posicionándose públicamente en contra de la narrativa de riesgo existencial, aunque el chief scientist de Meta AI Shengjia Zhao sí ha firmado en calidad individual.

Postura del gobierno estadounidense

La carta llega en un contexto normativo que se ha acelerado bruscamente en los últimos meses en EEUU. La orden ejecutiva sobre IA y ciberseguridad firmada el 2 de junio de 2026, titulada "Promoting Advanced Artificial Intelligence Innovation and Security", establece un marco voluntario según el cual los desarrolladores facilitarán al gobierno acceso anticipado (hasta 30 días) a los modelos categorizados como "covered frontier models" antes de su despliegue público.

La orden explicita que nada en ella autoriza a crear un régimen obligatorio de licencia, preclearance o permisos para desarrollar, publicar o distribuir modelos, incluidos los frontier. Es decir, es voluntariedad reforzada, no obligación. El plazo del 1 de agosto para que las agencias propongan el marco operativo coincide en el tiempo con la publicación de "Pacing the Frontier", y la lectura política más extendida es que la carta busca influir precisamente en ese diseño.

En paralelo, dos iniciativas legislativas de mayor recorrido están en discusión: el AI Kill Switch Act con apoyo bipartidista, y varios borradores para dar cobertura legal a estructuras internacionales de coordinación entre agencias equivalentes al US AI Safety Institute, el UK AI Safety Institute y homólogos europeos. La UE, por su parte, tiene ya el AI Act en despliegue, aunque su cobertura de los modelos frontier ha sido criticada por conservadora en umbrales y ambigua en aplicación.

Contexto: dónde estamos con los modelos actuales

La carta no aterriza en el vacío. El verano de 2026 es probablemente el momento con mayor densidad de modelos frontier simultáneos de la historia. OpenAI opera GPT-5.5 y GPT-5.6, Anthropic ha lanzado Claude Opus 5 el 24 de julio de 2026 con inteligencia cercana a Fable 5 a la mitad de precio ($5 input / $25 output por millón de tokens), y sigue disponible Claude Fable 5. Google mantiene Gemini 3.5 Pro y Gemini 3.6 Flash como su capa rápida. xAI, DeepSeek y actores chinos empujan por debajo con opciones abiertas.

Los benchmarks recientes muestran a Fable 5 liderando SWE-Bench Pro con 80,3%, con GPT-5.5 en 58,6% y Gemini 3.1 Pro en 54,2%. Son cifras que hace 18 meses parecían impensables. Y lo que preocupa a los firmantes no es tanto la capacidad absoluta actual como la pendiente: los ciclos de mejora se acortan, la generación de código por parte de los propios modelos ya cubre una fracción sustancial de la I+D interna de los laboratorios, y varios equipos han reportado prototipos internos donde el modelo participa activamente en el diseño de sus sucesores.

Ese último punto es el nudo. La expresión "desarrollo automatizado de IA" en la carta no es retórica: alude a un umbral operativo concreto (que los sistemas empiecen a automatizar la investigación en IA en sí misma) porque es el mecanismo por el que la capacidad puede escapar a la supervisión humana, no por malicia sino por velocidad. Esa es la línea que la carta quiere ver monitorizada.

Los que NO firman: silencios reveladores

Casi tan interesante como la lista de firmantes es la lista de ausencias. Tres huecos destacan.

xAI. Ningún empleado de la casa de Elon Musk aparece entre los firmantes. Es una ausencia coherente con la trayectoria pública del CEO, que ha oscilado entre firmar la carta de FLI en 2023 y presentar a Grok como alternativa "anti-woke" y sin restricciones. La lectura predominante es que la cultura interna de xAI no favorece este tipo de gesto colectivo.

Sam Altman. Como se ha señalado, el CEO de OpenAI no firma la carta a título personal aunque su casa la endose. Es un movimiento leído como intento de mantener margen de maniobra: apoyar el gesto sin cargarse políticamente con él.

La mayoría de la plantilla de Meta. Con 62 firmantes en una empresa con miles de personas trabajando en IA, es la casa menos representada en términos relativos. La postura pública de Yann LeCun, chief AI scientist, contra la narrativa de riesgo existencial ayuda a explicar por qué el gesto no cuaja internamente en la misma proporción que en Anthropic.

El silencio también viene desde el mundo académico crítico. Investigadoras como Emily Bender o Timnit Gebru, que llevan años señalando que centrar el debate en "riesgo existencial" desvía atención de daños actuales (sesgos algorítmicos, precarización laboral, extracción de datos, impacto climático de los datacenters), no aparecen entre los firmantes ni han respaldado públicamente el texto. Su crítica de fondo: hablar de pausar la superinteligencia futura mientras se despliegan sistemas actuales sin auditoría es una forma sofisticada de dilación.

Qué puede hacer un profesional de la IA ante todo esto

Al margen del debate político, la carta es también una oportunidad para que quien trabaja en o alrededor de la IA (desarrolladores, product managers, responsables de compliance, formadores) actualice su bibliografía y su marco mental. Hay una biblioteca ya consolidada de trabajos que ayudan a entender por qué gente muy distinta llega a preocuparse por temas parecidos y qué herramientas conceptuales manejan cuando discuten gobernanza. Estos son los títulos que aparecen repetidamente en las lecturas recomendadas por los propios firmantes.

• The Alignment Problem, de Brian Christian, es probablemente el libro más equilibrado para entrar al debate: recorre la historia técnica del problema de alineamiento sin caer ni en el catastrofismo ni en el escepticismo perezoso.
• Human Compatible, de Stuart Russell, sistematiza por qué diseñar sistemas con objetivos fijos es un error de raíz y propone un enfoque alternativo basado en incertidumbre sobre las preferencias humanas.
• Superintelligence, de Nick Bostrom, es el clásico fundacional del debate; hoy conviene leerlo con perspectiva histórica y sin tomárselo como calendario.
• Life 3.0, de Max Tegmark, funciona bien como puerta de entrada divulgativa y como marco para pensar escenarios de largo plazo.
• AI 2041, de Kai-Fu Lee y Chen Qiufan, cambia el registro: 10 relatos cortos de ficción combinados con análisis técnico sobre cómo será la vida cotidiana en dos décadas.
• Genesis, de Henry Kissinger, Eric Schmidt y Craig Mundie, publicado póstumamente por Kissinger, aborda las implicaciones geopolíticas y filosóficas del salto tecnológico actual.
• The Coming Wave, de Mustafa Suleyman (cofundador de DeepMind y actual CEO de Microsoft AI), es especialmente relevante ahora: escrito desde el interior de la industria, describe con nombres y apellidos el dilema de contención frente a proliferación.
• Weapons of Math Destruction, de Cathy O'Neil, complementa la agenda de riesgos futuros con la de daños ya presentes: sesgos algorítmicos, opacidad de sistemas de scoring y consecuencias sociales verificables.

Ver precio actual en Amazon para cada uno. Son títulos que suman en la biblioteca de cualquier profesional que quiera participar del debate con vocabulario propio y no solo con titulares.

Preguntas frecuentes (FAQ)

Conclusión: ¿gesto simbólico o punto de inflexión?

El significado real de "Pacing the Frontier" solo se podrá evaluar en los próximos meses. En lo simbólico, marca ya un antes y un después: por primera vez los propios trabajadores de los laboratorios frontier articulan colectivamente una petición al Estado para construir herramientas que permitan frenar su propia industria. Es difícil pensar en un precedente equivalente en tecnología reciente.

En lo operativo, la carta tiene tres tests inmediatos. Primero, si el marco voluntario del 1 de agosto derivado de la orden ejecutiva incorpora coordinación internacional o se queda en algo puramente doméstico. Segundo, si el AI Kill Switch Act u otras iniciativas legislativas terminan traduciendo el espíritu de la carta en normas vinculantes. Tercero, si los propios laboratorios firmantes aceptan verse afectados por esas normas en modelos que están entrenando ahora mismo o si el respaldo se limita a lo declarativo.

La lectura escéptica es que estamos ante un ejercicio de gestión reputacional que refuerza a los laboratorios que ya tienen ventaja regulatoria a costa de nuevos entrantes y de la investigación abierta. La lectura optimista es que, por primera vez, la gente que mejor conoce estos sistemas está pidiendo desde dentro que se construya la capacidad de frenarlos. Ambas lecturas son legítimas y probablemente ambas tienen parte de razón. Los próximos seis meses dirán cuál pesa más.