El máximo ejecutivo de Anthropic, Dario Amodei, publicó estos días su ensayo We must pace the frontier, una propuesta para moderar el ritmo de desarrollo de la inteligencia artificial que ya fue respaldada por OpenAI y SpaceXAI. En todo el texto no aparece ni una vez la expresión open weights (pesos abiertos), la categoría de modelos que, según los propios datos del sector, más está hundiendo el precio de la IA.
El argumento central es que quien presiona a la baja los costos no son OpenAI, Anthropic, SpaceXAI ni Google, sino los modelos abiertos. Casi todo lo que propone Amodei es fácil de cumplir para un laboratorio cerrado y prácticamente imposible para uno abierto, según el análisis de VentureBeat que compara la iniciativa con la ley SB 1047 de California, vetada por el gobernador Newsom por su impacto en desarrolladores pequeños y en el código abierto.
Qué propone el plan de Amodei
El ensayo plantea cuatro ejes concretos:
- Puntos de control por capacidad: si un modelo alcanza cierto nivel, debe certificar determinadas propiedades de alineamiento.
- Evaluadores externos trabajando dentro de los laboratorios, como METR.
- Una exención antimonopolio para que los laboratorios estadounidenses puedan coordinarse en materia de seguridad.
- Más controles a China: veto a los chips avanzados y prohibición de la destilación no autorizada de modelos.
La lógica detrás del primer punto es que un modelo cerrado puede certificarse porque su dueño controla cada copia. Uno abierto, no: en cuanto se publican los pesos, cualquiera puede quitarle las salvaguardas. Con la exención antimonopolio ocurre algo similar: quienes se sientan a coordinarse son los laboratorios estadounidenses de frontera, y quien no está en esa mesa no decide los límites, pero sí los sufre.
El respaldo de la industria y la letra del ensayo
Amodei escribió que "debemos frenar el ritmo con que mejoramos las capacidades de los modelos de IA" y que "el progreso seguirá pareciendo rápido, y debemos hacer un uso sabio del tiempo que ganemos". El respaldo llegó el mismo día, según el medio La Tercera: el CEO de OpenAI, Sam Altman, apoyó la propuesta en la red social X y comprometió a su empresa con el primer paso del plan, mientras Elon Musk, dueño de xAI, escribió tres palabras: "Dario tiene razón".
El ensayo, según ese mismo medio, propone un plan de tres pasos que parte por abrir las oficinas de las compañías a evaluadores externos permanentes. Amodei sostiene que dos hechos recientes lo convencieron de que invertir en prevención de riesgos ya no basta y que hay que intervenir el ritmo mismo del desarrollo. El primero es la automejora recursiva, el uso de la IA para construir la siguiente generación de IA. "Desde aproximadamente este verano, la IA ha estado avanzando drásticamente más rápido, impulsada principalmente por la creciente capacidad de la IA de construir la próxima generación de IA", escribió, en referencia al verano boreal. Sin control, advirtió, "podría superar nuestra capacidad de entender y controlar estos sistemas, por lo que debe perseguirse con mucho cuidado, si es que se persigue".
El segundo hecho es el incidente que involucró a OpenAI y a Hugging Face, la plataforma donde se alojan modelos y repositorios de IA, en el que según su descripción participó un enjambre de agentes.
Las cifras del frente abierto
El bloque de modelos abiertos ya no tiene a Meta como referencia principal, sino a China, de acuerdo con los datos recogidos por el análisis:
- 150 veces menos cuesta DeepSeek V4 Flash frente a GPT-5.5 en tokens de salida, según OpenRouter.
- De 3 a 6 meses es el retraso de los mejores modelos abiertos respecto de los cerrados, y no se está ampliando.
- 151.448 modelos derivados de Qwen registra Hugging Face, 2,6 veces los de Meta, según su informe de verano.
- 33% de margen bruto ajustado tuvo OpenAI en 2025, frente al 40% del año anterior, según The Information.
Ese último dato apunta a la presión comercial: competir con modelos casi gratuitos no ayuda a remontar el margen. En Europa, mientras tanto, Mistral cerró una ronda de 3.000 millones de euros con una valoración de 21.000 millones, la mayor de una tecnológica europea, y su argumento de venta es precisamente la IA soberana con pesos abiertos.
Un régimen de certificaciones diseñado en Estados Unidos para sus laboratorios dejaría a Mistral fuera de la mesa, pero dentro de las reglas. La Unión Europea ya escogió otro camino: su Ley de IA exime a los modelos de código abierto de parte de las obligaciones, salvo cuando presentan "un riesgo sistémico".
El límite del argumento
Frenar a los modelos abiertos no frena necesariamente a China. Los pesos de Qwen y DeepSeek ya están en millones de servidores y discos duros de todo el mundo. Lo que sí frena es a los desarrolladores abiertos de Estados Unidos y Europa, justo los que podrían competir con esos modelos.
Es la misma lógica de captura regulatoria que ya se documentó con Rockefeller, según el análisis. Esta vez el competidor que queda fuera no es una petrolera pequeña, sino un modelo que cualquiera puede descargar gratis y ejecutar en un ordenador doméstico.
Las advertencias dentro de la propia industria
El debate por el ritmo de la IA también se instaló dentro de las empresas que la desarrollan. El investigador especializado en entrenamiento de modelos Jacob Coxon renunció a Anthropic afirmando que deja la compañía porque no quiere participar en una carrera por desarrollar sistemas capaces de mejorarse a sí mismos, según El Mundo. El británico, de 27 años, dijo que muchos de sus colegas usan ya expresiones como "momento decisivo" y "fase final" para describir esa trayectoria. "Vamos camino de que se cumplan muchos de los escenarios más agresivos, en los que a finales del próximo año las cosas podrían estar ya fuera de control", afirmó. Anthropic no hizo comentarios de inmediato sobre su marcha.
En paralelo, el científico jefe de OpenAI, Jakub Pachocki, advirtió que ninguna compañía ha resuelto el alineamiento —el trabajo para que los sistemas se comporten de acuerdo con los valores e intenciones humanas— lo suficiente como para seguir escalando a máxima velocidad, y defendió una ralentización coordinada de la industria y la intervención estatal. "Este es un momento que exige una cautela extrema. Me preocupa que nadie esté preparado para las consecuencias de un aumento rápido y continuado de la inteligencia de las máquinas", escribió en una entrada de blog. La propia OpenAI congeló su salida a bolsa citando preocupaciones de seguridad, según La Tercera.
El CEO de OpenAI, Sam Altman, afirmó ante responsables del G20, durante una cumbre en Carolina del Norte, que "algunas cosas van a salir muy mal en materia de ciberseguridad si la gente no actúa con bastante urgencia".
El debate que viene, si el plan avanza, no es si hay que frenar o no, sino quién queda dentro del perímetro que se frena y quién fija sus límites. Hoy quienes lo están dibujando son, según el análisis de VentureBeat, quienes más perderían con una IA abierta y barata. Por ahora, el ensayo de Amodei sigue sumando respaldos y el sector observa si sus propuestas se traducen en normas concretas.
Comentarios
Comparte tu opinión de manera respetuosa.
Inicia sesión para dejar un comentario.