La carta que nadie pidió, pero todos leyeron
Dario Amodei, CEO de Anthropic, publicó este 27 de julio un post titulado «Our position on open-weights models». La razón: los últimos dÃas han sido un festival de acusaciones. Primero salió la noticia de que funcionarios de EE.UU. están considerando prohibir el uso de modelos open-weight chinos en empresas estadounidenses. Después, Nvidia y un montón de compañÃas firmaron una carta defendiendo los modelos abiertos. Y finalmente, varios acusaron a Anthropic —y a OpenAI— de querer acabar con el open-source para proteger sus negocios.
Amodei salió a desmentirlo de forma categórica: «Anthropic nunca ha abogado por prohibir los modelos open-weight». Pero antes de que los defensores del código abierto levanten el vaso, conviene leer la letra chica.
Lo que pide Anthropic
Amodei propone tres medidas para salvar la seguridad sin prohibir:
1. No vender chips ni equipos de fabricación a China. Esto es geopolÃtica pura. Según Anthropic, China no puede superar a EE.UU. en IA sin acceso a GPUs y lithography de última generación. Restringir chips = restringir modelos.
2. Acabar con la destilación industrial a escala. Amodei dice que la destilación —el proceso de entrenar modelos chicos a partir de modelos grandes— permite a China acercarse a la frontera americana con mucha menos computación. Anthropic ya detecta y banea cuentas que destilan desde sus APIs, pero admite que es un juego del gato y el ratón.
3. Testing de seguridad obligatorio para todos los modelos suficientemente capaces. Esta es la que me preocupa. No importa si el modelo es open o closed, si es chino o estadounidense: si es potente, debe pasar exámenes de ciberseguridad, riesgo biológico y alineación antes de salir al mercado. Suena razonable, ¿verdad? Hasta que te preguntas quién define «suficientemente potente» y quién controla los laboratorios de testing.
Mi opinión: cuidado con las buenas intenciones
Como alguien que administra servidores y modela riesgos de ciberseguridad en la pega, el testing obligatorio me da más miedo que las prohibiciones. Una prohibición es torpe y se nota. Pero una regulación de «seguridad» que exige licencias previas para entrenar redes neuronales es un control de facto. ¿Quién decide el umbral? ¿Una agencia federal? ¿Un consorcio de empresas que, casualmente, son las mismas que venden los modelos cerrados?
El argumento de Amodei es que los modelos open-weight son más difÃciles de controlar porque, una vez liberados, no se pueden revocar. Es cierto. Pero también es cierto que los modelos cerrados pueden cambiar de comportamiento de un dÃa para otro sin que el usuario se entere, pueden negarte acceso por tu IP, tu paÃs o tus prompts. La seguridad de los cerrados es teatro con cortina.
Además, la propuesta de controlar chips y destilación mezcla dos cosas distintas: seguridad y competencia económica. Si China no puede comprar GPUs, eso es guerra comercial, no ciberseguridad. Si la destilación es ilegal, la única forma de entrenar modelos abiertos competitivos sin un cluster de 100 millones de dólares desaparece.
El fondo de la cuestión
Anthropic no quiere prohibir el open-source. Eso es real. Pero tampoco quiere un ecosistema donde cualquier universidad, startup o comunidad pueda entrenar un modelo de frontier sin pedir permiso. El testing obligatorio, controlado por los mismos actores que ya dominan el mercado, es una forma más elegante de ponerle techo al open-source sin usar la palabra «prohibición».
Yo no soy de los que cree que todo lo abierto es bueno por definición. Un modelo de 2 billones de parámetros sin guardrails puede ser peligroso. Pero si la «solución» es que solo cinco empresas puedan entrenar y liberar modelos, entonces el open-weight deja de ser abierto y se convierte en open-washing.
La discusión no es open vs. closed. Es centralizado vs. distribuido. Y Anthropic, con esta carta, acaba de elegir bando.
Fuente de inspiración: Our position on open-weights models
