Panel de especialistas debatiendo frente a una pantalla con diagramas de gobernanza de inteligencia artificial

SAFA: la “autoridad” que quieren crear las grandes de la IA, explicada sin vueltas

Qué es, qué ganaríamos, qué podría salir mal y si en el fondo es una jugada para quedarse con el mercado

TagNaBlog · Informe especial · 11 de octubre de 2026

Imaginá que los tres equipos más fuertes de un campeonato se juntan para redactar el reglamento y, de paso, designar a los árbitros. Puede que lo hagan con buena fe, y hasta que el reglamento sea bueno. Pero la pregunta incómoda aparece sola: ¿quién controla a los que escriben las reglas? Esa es, en esencia, la discusión que se abrió en septiembre de 2026 cuando la prensa especializada reveló que Google, OpenAI y Anthropic avanzan con la creación de un organismo propio para fijar estándares de seguridad en la inteligencia artificial más avanzada. Su nombre provisorio: Standards Authority for Frontier AI, o SAFA.

Este informe explica qué se sabe, qué ventajas y riesgos tiene, y responde de frente una pregunta que mucha gente se hace: ¿es SAFA un método de monopolización? Una aclaración previa: casi todo lo que se conoce proviene de reportes de prensa basados en fuentes anónimas. Las empresas no publicaron un estatuto ni detallaron los poderes del organismo, así que parte de lo que sigue es análisis de un proyecto en construcción, no de una institución ya en funcionamiento.

1. Qué es SAFA, en simple

Un modelo de frontera (frontier model) es uno de los sistemas de IA más potentes que existen en un momento dado, los que están en la “frontera” de lo que la tecnología puede hacer. Son los modelos que más recursos cuestan y los que más preocupan a los especialistas en seguridad, por ejemplo por su capacidad de ayudar en ciberataques.

SAFA sería una organización de autorregulación: las propias empresas del sector se ponen de acuerdo en reglas comunes y las administran mediante una entidad aparte, en lugar de esperar a que el Estado las imponga. Según los reportes, tendría tres funciones: definir pruebas y estándares comunes para evaluar modelos antes de lanzarlos, certificar auditores independientes que revisen a los laboratorios, y fijar un formato único para reportar incidentes de seguridad (fallas graves, vulnerabilidades, usos indebidos).

El modelo que mencionan una y otra vez es FINRA, la entidad privada que supervisa a las casas de bolsa en Estados Unidos. FINRA se financia con aportes de la propia industria, pero trabaja bajo la supervisión de un organismo público (la SEC) y puede sancionar a los miembros que incumplen. Esa última parte es la clave: según los análisis publicados, SAFA, sin un respaldo legal equivalente, podría fijar estándares pero no necesariamente obligar a cumplirlos.

Para el lanzamiento se habla de fines de 2026 o comienzos de 2027. Se mencionó a Sriram Krishnan y a Arati Prabhakar, dos figuras con pasado en la política tecnológica de la Casa Blanca, como posibles líderes, y a especialistas como Beth Barnes (METR) y Paul Christiano como asesores científicos. Son nombres que se barajaron en reportes, no designaciones confirmadas.

2. Cómo se llegó hasta acá

La idea no nació de la nada. A mediados de este año, Demis Hassabis, el director de Google DeepMind, propuso que Estados Unidos impulsara un organismo de estándares al estilo FINRA en vez de crear una agencia federal nueva. Los tres laboratorios querían, en principio, una fórmula público-privada con supervisión del gobierno. Ese camino se trabó: un borrador de orden ejecutiva quedó frenado tras las objeciones de otros jugadores grandes del sector, como Meta y Nvidia, y la Casa Blanca les pidió que primero construyeran consenso entre ellos.

Ante ese freno, los tres decidieron avanzar solos. Hay además un antecedente que genera dudas: en 2023 las mismas empresas, junto con Microsoft, fundaron el Frontier Model Forum, un foro con objetivos parecidos. Algunos críticos preguntan por qué haría falta otra organización si ya existe esa, y varios la tildan de gesto más simbólico que efectivo.

3. Los beneficios posibles

Sería injusto despachar la iniciativa como puro marketing. Hay problemas reales que un organismo así podría resolver, sobre todo si funciona bien.

Reglas del juego comunes. Hoy cada empresa publica sus propios marcos de seguridad y se evalúa con su propia vara y balanza. Con estándares compartidos, un cliente o un gobierno podría comparar modelos de distintas compañías con el mismo criterio, algo que simplificaría las compras de las empresas y la supervisión estatal.
Pruebas antes del lanzamiento. Que un tercero pruebe los modelos antes de que lleguen al público es algo que los propios jefes de Google DeepMind, OpenAI y Anthropic dijeron querer. Detectar una vulnerabilidad antes del estreno es mucho más barato (y menos peligroso) que descubrirla con millones de usuarios encima.
Auditores que no dependen del auditado. Certificar firmas independientes y exigirles requisitos de calidad es una forma de evitar que cada laboratorio “se corrija a sí mismo”, un esquema que expertos como el analista de Gartner Nader Henein consideran poco viable por sí solo.
Velocidad. Una ley tarda años y suele quedar vieja antes de aprobarse. Un organismo del sector, con expertos técnicos adentro, puede actualizar sus pruebas al ritmo de la tecnología.

4. Los contras y riesgos

Captura regulatoria. Es el riesgo central. Se da cuando las reglas terminan sirviendo a los intereses de quienes deberían ser controlados. Si las empresas más grandes escriben los estándares, es lógico sospechar que van a escribirlos de una manera que ellas cumplan con facilidad. La analogía con FINRA no tranquiliza del todo: la senadora Elizabeth Warren sostiene hace tiempo que FINRA favorece a las casas de bolsa por encima de los inversores.
Falta de dientes. Sin respaldo legal, SAFA podría no tener forma de sancionar a nadie. Un reglamento que nadie está obligado a seguir puede terminar siendo una declaración de buenas intenciones.
Costos que pesan más para los chicos. Una auditoría externa especializada es cara. Para Google, OpenAI o Anthropic es un gasto absorbible; para una startup o un proyecto de código abierto puede ser inalcanzable. Los críticos advierten que eso podría dejar a los pequeños fuera de la “frontera”.
Quedan afuera actores clave. Según reportes, Meta, xAI y Nvidia expresaron reparos públicamente. Un organismo de seguridad que no incluye a algunos de los desarrolladores más agresivos tiene un alcance limitado y se parece más a un acuerdo entre tres que a un consenso de todo el sector.
Definiciones difusas. Todavía no hay una definición clara de qué cuenta como “modelo de frontera”. Quien trace esa línea decide quién queda sujeto a las reglas y quién no, y eso es poder.

5. Resumen en una tabla

A favor	En contra
Estándares comunes para comparar modelos de distintas empresas	Riesgo de captura regulatoria: las reglas las escriben los más grandes
Pruebas externas antes del lanzamiento	Sin respaldo legal, podría no poder obligar ni sancionar
Auditores independientes certificados	Auditorías caras: ventaja para quien tiene más capital
Se adapta a la tecnología más rápido que una ley	Meta, xAI y Nvidia, entre otros, no estarían adentro
Protocolo único para reportar incidentes	Definición de “frontera” poco clara y controlada por pocos

6. ¿Es un método de monopolización?

La respuesta honesta es: no en el sentido estricto, pero sí tiene rasgos de riesgo que justifican la pregunta. Conviene separar tres conceptos que suelen mezclarse.

Un monopolio es cuando una sola empresa domina un mercado y puede imponer condiciones. Un cartel es cuando empresas que deberían competir se ponen de acuerdo para actuar en conjunto, por ejemplo fijando precios o repartiéndose clientes, algo que las leyes antimonopolio castigan. Y una barrera de entrada es cualquier obstáculo (costos, requisitos, permisos) que dificulta que un competidor nuevo ingrese al mercado.

Por qué no es un monopolio. SAFA no vende un producto ni reemplaza a las tres empresas: ellas siguen compitiendo entre sí, y hay rivales fuertes que no participan. Además, por lo que se sabe, la adhesión sería voluntaria y el organismo no tendría poder legal de prohibir que alguien lance un modelo.

Por qué igual preocupa. El peligro no es que SAFA sea un monopolio hoy, sino que funcione como barrera de entrada mañana. Los mecanismos son concretos: si los estándares los diseñan los líderes del mercado, si las auditorías certificadas cuestan una fortuna y si, con el tiempo, clientes, aseguradoras o gobiernos empiezan a exigir el “sello SAFA” como requisito, entonces un voluntariado se vuelve obligatorio de hecho. Los que ya están adentro cumplen con holgura y los que quieren entrar quedan frenados. Un análisis lo resume con una frase dura: un organismo de seguridad que excluye a sus competidores más agresivos puede ser una jugada de posicionamiento competitivo con envoltorio de seguridad.

El factor legal. Cuando empresas competidoras coordinan su conducta, las leyes antimonopolio se activan, aunque el objetivo declarado sea noble. Según un medio especializado, el 15 de septiembre los senadores Hawley y Cruz bloquearon una exención antimonopolio que habría dado cobertura legal a este tipo de coordinación, y existiría además una demanda que sostiene que la coordinación de seguridad entre rivales es conducta de cartel. Es información de una sola fuente que no pude confirmar de manera independiente, así que conviene tomarla con cautela. Lo que sí es indiscutible es el dilema de fondo: sin un marco legal que lo respalde, un acuerdo entre competidores es justamente el tipo de pacto que la ley mira con lupa.

Mi lectura: SAFA no es un monopolio, pero tampoco es inocente por definición: es un esquema con un riesgo real de convertirse en una barrera para los competidores más chicos. Que esa posibilidad se materialice depende de su gobernanza, no de las intenciones declaradas. Hassabis propuso salvaguardas (asientos para representantes del código abierto, una exención para startups y pruebas independientes de los laboratorios), pero lo que cuenta es cómo se apliquen en la práctica y no cómo figuren en el papel.

7. Qué conviene mirar de ahora en adelante

Quién puede ser miembro y si hay lugar real para startups, academia y código abierto.
Quién define “modelo de frontera” y con qué criterio.
Cómo se financia y cuánto cuesta cumplir para un actor chico.
Si tiene poder de sanción o respaldo del Estado, o si es solo un acuerdo voluntario.
Si los gobiernos o clientes lo vuelven requisito, que es el momento en que un sello voluntario pasa a ser una puerta obligatoria.
Transparencia: si publica sus pruebas, resultados y reglas de gobierno.

Aviso de transparencia

Este informe se elaboró con ayuda de Claude, un asistente de IA creado por Anthropic, una de las tres empresas que impulsan SAFA. Por eso conviene que contrastes lo que acá se afirma con las fuentes de abajo, que provienen de medios y centros de análisis ajenos a esas compañías. Los datos sobre SAFA se basan en reportes de prensa y pueden cambiar cuando el proyecto se formalice.