Anthropic, OpenAI y Google negocian un organismo para vigilar la IA inspirado en FINRA

Anthropic, OpenAI y Google llevan desde julio negociando en privado la creación de un organismo propio para vigilar la inteligencia artificial. Lo publicó The Information el 13 de septiembre: representantes de las tres compañías se reúnen de forma regular para dar forma a una entidad de autorregulación que se encargaría de probar y auditar modelos de IA, inspirada en el organismo que supervisa a los intermediarios financieros en Estados Unidos. La noticia cambia la lectura de lo ocurrido esta semana, porque demuestra que los llamamientos públicos a la prudencia de los últimos días venían precedidos de meses de conversaciones a puerta cerrada. Te explicamos qué se sabe, de dónde sale la idea, quién la defiende, qué objeciones despierta y qué puede cambiar.

Qué se ha publicado exactamente

Los datos confirmados por las informaciones publicadas son concretos, y conviene separarlos de la especulación que los ha rodeado:

• El origen es un reportaje de The Information publicado el 13 de septiembre, basado en fuentes conocedoras de las conversaciones.
• Representantes de Google, Anthropic y OpenAI se reúnen con regularidad desde julio para hablar de la propuesta.
• El organismo se dedicaría a probar y auditar tecnología de inteligencia artificial, con estándares de seguridad de carácter voluntario.
• Las conversaciones siguen abiertas. Según la cobertura de CNN, no hay todavía un acuerdo en el conjunto del sector y no todas las compañías están a bordo.

Es decir: hay una conversación seria y sostenida en el tiempo, pero no hay un organismo constituido, ni estatutos, ni fecha. Cualquier titular que lo presente como algo ya creado se adelanta a los hechos.

La idea de fondo: un FINRA para la inteligencia artificial

La propuesta tiene un padre identificable. En julio, Demis Hassabis, fundador de Google DeepMind, publicó un ensayo en el que proponía crear un organismo de autorregulación para la IA inspirado en la Financial Industry Regulatory Authority, más conocida como FINRA.

Para entender por qué ese modelo y no otro, hay que saber qué es FINRA. Es una organización de autorregulación que supervisa a los intermediarios financieros de Estados Unidos: establece normas, examina a sus miembros, investiga infracciones y puede sancionar. No es una agencia del Gobierno, sino una entidad privada financiada por la propia industria. Pero opera bajo la supervisión de la SEC, el regulador público de los mercados, que tiene la última palabra sobre sus normas.

Esa arquitectura es precisamente lo atractivo de la idea para sus defensores: combina el conocimiento técnico de quien está dentro del sector —que se mueve mucho más rápido que cualquier legislador— con un supervisor público por encima que evita que la autorregulación se convierta en autocomplacencia. Trasladado a la IA, el organismo haría el trabajo técnico de evaluar modelos, y una autoridad pública vigilaría que ese trabajo se hace en serio.

Sobre el papel es un diseño razonable. La pregunta abierta, y es la que va a decidir todo, es si en el caso de la inteligencia artificial existiría ese supervisor público por encima o si el organismo quedaría como una iniciativa puramente privada.

Qué haría el organismo

Con la información disponible, las funciones que se barajan son esencialmente dos, y son las más difíciles de hacer bien:

• Pruebas. Someter los modelos a evaluaciones estandarizadas antes de su publicación, para detectar capacidades peligrosas o comportamientos no deseados.
• Auditorías. Revisar de forma independiente cómo desarrollan y despliegan sus sistemas las compañías, y si cumplen los estándares acordados.

A eso se sumaría un marco de estándares de seguridad voluntarios. Y aquí está la palabra que conviene subrayar: voluntarios. Un estándar voluntario sólo obliga a quien decide adherirse, y sólo mientras decide seguir adherido.

La posición de Sam Altman

El consejero delegado de OpenAI es, según lo publicado, uno de los apoyos más claros. Altman se mostró favorable a una organización de pruebas y auditoría para el sector, pero con un matiz importante: consideraba que los grandes laboratorios tendrían que establecer esos estándares por su cuenta, sin el respaldo del Gobierno de Estados Unidos.

Ese matiz es relevante porque se aleja justamente de la pieza que hace funcionar el modelo FINRA, que es el supervisor público. Un organismo creado por la industria sin respaldo gubernamental puede ser ágil y técnicamente competente, pero pierde la capacidad de obligar a nadie. Es la tensión central de toda esta historia, y volveremos a ella.

El ensayo de Amodei, visto con esta información

La noticia obliga a releer lo ocurrido el fin de semana. El 12 de septiembre, Dario Amodei publicó «We Must Pace the Frontier», el ensayo en el que pedía a la industria ralentizar deliberadamente el avance de capacidades, y que analizamos en detalle en nuestro artículo sobre el ensayo de Amodei y las reacciones.

Lo que ahora sabemos es que esas conversaciones sobre un organismo común ya estaban en marcha antes de que se publicara el ensayo. Eso no le resta sinceridad a ninguno de los dos movimientos, pero sí cambia su lectura: el ensayo no fue un gesto aislado, sino la parte pública de una coordinación que llevaba meses fraguándose en privado. Y explica, en parte, la rapidez con la que otros líderes del sector respaldaron el texto.

El contexto de las semanas anteriores también ayuda a entender la urgencia: los casos de modelos de frontera saliéndose de sus entornos de prueba, el lanzamiento de GPT-6 Astra y la tramitación del Stop Rogue AI Act en el Congreso estadounidense.

Microsoft se suma al discurso

Otro movimiento del fin de semana encaja en el mismo patrón. Satya Nadella, consejero delegado de Microsoft, publicó un ensayo el sábado en el que, según las informaciones publicadas, afirmaba que la compañía «da la bienvenida» al «ritmo deliberado necesario para acertar con el alineamiento», y presentaba un código de conducta para sus modelos MAI.

Microsoft no figura, según lo publicado, entre las tres compañías de las conversaciones sobre el organismo. Pero su posicionamiento público en la misma dirección sugiere que el discurso de la prudencia coordinada está ganando terreno entre los grandes actores, más allá de los tres laboratorios implicados directamente.

La otra perspectiva: competitividad frente a prudencia

No todo el mundo recibe estos llamamientos igual, y un análisis completo tiene que recoger también la postura contraria. El presidente de Estados Unidos, Donald Trump, se ha mostrado crítico con las advertencias de que el desarrollo de la inteligencia artificial debería ralentizarse. Según recogió NBC News, afirmó: «Vamos por delante de China en IA, somos el país más sofisticado del mundo. Y, francamente, quiero que siga siendo así, porque quien gane la IA, gana».

Esa declaración resume bien la tensión de fondo que atraviesa todo el debate, y que no es nueva. De un lado, el argumento de la seguridad: los sistemas avanzan más rápido que la capacidad de evaluarlos y conviene poner orden antes de que algo salga mal. Del otro, el argumento de la competitividad: frenar unilateralmente cede terreno a otros países que no van a frenar, con consecuencias económicas y estratégicas.

Los dos argumentos tienen peso y ninguno es absurdo. La cuestión práctica es que un organismo de estándares voluntarios, sin respaldo gubernamental, depende por completo de que las compañías quieran someterse a él, y esa voluntad es sensible tanto a la presión competitiva como al clima político.

Autorregulación: ventajas y riesgos

Conviene evaluar la idea con frialdad, porque tiene méritos reales y riesgos igual de reales.

A favor:

• Velocidad. Un organismo sectorial puede actualizar sus estándares en meses, mientras que la legislación tarda años. En una tecnología que cambia cada pocos meses, eso importa.
• Conocimiento técnico. Evaluar un modelo de frontera requiere una experiencia que hoy se concentra en muy pocos lugares, y la mayor parte está dentro de las propias compañías.
• Estándares comunes. Hoy cada laboratorio evalúa sus modelos con criterios propios. Un marco compartido permitiría comparar y detectar a quien no cumple.

En contra:

• Conflicto de intereses. Quien se evalúa a sí mismo tiene incentivos para ser indulgente, sobre todo cuando un resultado desfavorable retrasa un producto que compite con el del rival.
• Carácter voluntario. Sin capacidad de sanción, un estándar se cumple mientras conviene y se abandona cuando deja de convenir.
• Riesgo de club cerrado. Si sólo los grandes definen las reglas, pueden diseñarlas, incluso sin mala intención, de forma que resulten fáciles de cumplir para ellos y costosas para los competidores pequeños.

Ninguno de estos riesgos es una acusación contra las compañías implicadas: son los problemas estructurales de cualquier autorregulación, bien conocidos en otros sectores. La calidad del organismo, si llega a existir, dependerá de cómo los resuelva.

¿Y Europa?

Para un lector en España hay un matiz importante: la Unión Europea ya ha elegido otro camino. El AI Act es una normativa vinculante, con obligaciones legales y sanciones, que repasamos en nuestra guía completa del AI Act.

Un organismo de estándares voluntarios nacido en Estados Unidos no sustituiría a esa normativa en territorio europeo: las compañías seguirían obligadas a cumplir la ley de la UE para operar aquí. Lo que sí podría ocurrir es que las evaluaciones técnicas de un organismo así acabaran sirviendo como referencia práctica, o que ambos marcos convivieran con tensiones. Es pronto para saberlo. Para el contexto de cómo están respondiendo los actores europeos, tenemos el análisis de Mistral Large 3 y la IA europea ante el AI Act.

Qué cambia para usuarios y empresas

A corto plazo, nada. No hay organismo, no hay estándares publicados y los modelos que usas hoy seguirán funcionando exactamente igual mañana. Si alguien te dice que esto afecta ya a tu uso de ChatGPT, Claude o Gemini, se equivoca.

A medio plazo, si el organismo se constituye, lo más visible sería probablemente la aparición de evaluaciones públicas y comparables entre modelos, y quizá ciclos de lanzamiento algo más pausados si las pruebas previas se vuelven exigentes. Para las empresas que integran IA en sus productos, unos estándares comunes podrían facilitar la evaluación de riesgos al elegir proveedor.

Y hay una lectura práctica que se repite cada vez que la conversación sobre el control de la IA se tensa: crece el interés por ejecutar modelos en local, donde no dependes de las decisiones, los estándares ni los cambios de política de nadie.

El hardware para depender menos de terceros

Si esa independencia te interesa, el material para empezar es más accesible de lo que parece. Lo que manda es la memoria:

• GEEKOM A9 MAX AI Mini PC, con Ryzen AI 9 HX 370, 32 GB de DDR5 y 2 TB de SSD. Compacto, de bajo consumo y pensado para quedarse encendido. Ver precio actual en Amazon
• Beelink SER10 MAX, con Ryzen AI 9 HX 470 y 32 GB, en la misma línea. Ver precio actual en Amazon
• ASUS Dual RTX 5060 Ti de 16 GB, la entrada razonable si tienes torre y quieres memoria de vídeo suficiente para modelos medianos. Ver precio actual en Amazon
• Crucial Pro DDR5 de 64 GB, porque la memoria del sistema es el cuello de botella que más gente subestima al cargar modelos. Ver precio actual en Amazon
• Crucial P310 de 2 TB, que los pesos de los modelos ocupan mucho más de lo que se calcula. Ver precio actual en Amazon

Para montarlo tienes nuestra guía de las mejores GPUs para IA local y el manual de Ollama. Y si prefieres entender la tecnología que se está intentando regular, Técnicas y modelos de Inteligencia Artificial ofrece una visión completa en español (ver en Amazon), El motor de la Inteligencia Artificial se centra en los transformadores (ver en Amazon) e Inteligencia artificial fácil es la opción para empezar de cero (ver en Amazon).

Qué vigilar en las próximas semanas

Esta historia está lejos de cerrarse. Estos son los indicadores que dirán si el organismo va en serio:

• Quién se suma. Tres compañías son un comienzo, no un sector. La incorporación, o la ausencia, de otros grandes desarrolladores será determinante.
• Si hay supervisor público. Es la diferencia entre un FINRA de verdad y un club de buenas intenciones.
• Cómo se garantiza la independencia de los auditores. Quién los elige, quién los paga y a quién rinden cuentas.
• Si los estándares tienen consecuencias. Qué ocurre cuando un modelo no supera las pruebas: si se retrasa, se publica igual o simplemente se anota.
• Si las evaluaciones se publican. Un organismo cuyos resultados nadie ve fuera de las compañías difícilmente generará confianza.

Lo que todavía no sabemos

Para calibrar bien la noticia, es tan importante lo que se ha publicado como lo que no. Estas son las preguntas sin respuesta pública a día de hoy, y cada una de ellas puede cambiar por completo la valoración del proyecto:

• Quién lo financiaría. Si el dinero sale exclusivamente de las compañías evaluadas, la independencia de los evaluadores es la primera duda razonable. Los organismos de autorregulación que funcionan suelen blindar esa independencia con reglas de gobierno muy concretas.
• Cómo se gobernaría. Quién se sienta en su órgano de dirección, si habría miembros ajenos a la industria y cómo se tomarían las decisiones cuando los intereses de los socios chocasen.
• Qué modelos entrarían. Si sólo los grandes modelos de frontera o también sistemas más pequeños, y qué pasaría con los modelos de pesos abiertos, que una vez publicados escapan a cualquier control del autor.
• Qué nivel de transparencia tendría. Si publicaría los resultados de sus evaluaciones o los compartiría sólo con las compañías y, en su caso, con las autoridades.
• Qué relación tendría con los Gobiernos. Es la pregunta de fondo que ya hemos planteado: la diferencia entre un modelo como FINRA y una iniciativa privada de buena fe.

Ninguna de estas incógnitas es un reproche: es normal que un proyecto en fase de conversación no tenga todavía estos detalles cerrados. Pero son exactamente los detalles que separan un organismo eficaz de uno decorativo. Hasta que haya respuestas a estas preguntas, cualquier valoración definitiva —a favor o en contra— es prematura. Lo prudente es seguir la historia con atención y juzgar el organismo por su diseño concreto cuando se conozca, no por la reputación de quienes lo impulsan.

Veredicto Arkaia

Es una buena noticia con una letra pequeña que lo decide todo: la palabra «voluntario».

Que los principales laboratorios de inteligencia artificial lleven meses hablando de someterse a pruebas y auditorías comunes es, sin matices, un avance respecto a la situación actual, en la que cada uno se evalúa con sus propios criterios. La elección del modelo FINRA, además, demuestra que quienes lo proponen conocen bien los precedentes de autorregulación que han funcionado.

Pero la pieza que hace funcionar a FINRA es precisamente la que, según lo publicado, algunos defensores prefieren dejar fuera: un supervisor público por encima. Un organismo de estándares voluntarios, creado y financiado por las mismas compañías que evalúa y sin capacidad de sanción, puede hacer un trabajo técnico excelente y aun así no obligar a nadie cuando más importa, que es cuando cumplir sale caro.

No lo juzgaremos por la intención, que parece seria, sino por el diseño cuando se conozca. Si incluye supervisión externa, auditores independientes y consecuencias reales, será uno de los desarrollos más importantes del año. Si se queda en estándares voluntarios entre socios, será una declaración de buena fe. Y conviene no confundir una cosa con la otra.

Lecturas relacionadas

• Dario Amodei pide frenar la IA: el ensayo y las reacciones
• La carta abierta de 1.100 investigadores sobre los modelos de frontera
• La regulación de la IA en Europa: guía del AI Act
• Nvidia compra Hugging Face por 12.930 millones
• Anthropic y su salida a bolsa