El CEO de Anthropic, Dario Amodei, sorprendió el fin de semana con un mensaje contundente: ralentizar el desarrollo de modelos de IA avanzados para ganar tiempo y entender los riesgos. Sam Altman y Elon Musk respaldaron la idea, y Demis Hassabis y Satya Nadella también se pronunciaron a favor de la reflexión. Pero una cosa es decirlo y otra muy distinta hacerlo.
Amodei y el dilema de China
El propio CEO de Anthropic reconoce que el "dilema más difícil" de su propuesta está en China. Si las empresas estadounidenses de IA ralentizan su desarrollo de modelos pero las chinas continúan avanzando, EEUU podría perder su ventaja en una tecnología que cada vez es más estratégica y potencialmente militar.
Amodei cree que a largo plazo harán falta acuerdos entre países para frenar el ritmo, pero reconoce que hay demasiados incentivos para que unos rivales traten de adelantar a los otros.
Trump rechaza frenar el desarrollo
El presidente de EEUU, Donald Trump, ha rechazado esa posibilidad, y su razonamiento es mucho más sencillo. Según él, frenar no es posible porque "quien gane la IA, gana". Aunque no descarta diseñar algún tipo de salvaguarda, sí se niega a detener el desarrollo de modelos avanzados porque eso permitiría a China reducir la ventaja o incluso superar a EEUU en este ámbito.
Es como si el comentario de Amodei le hubiera dado "gasolina" al argumento gubernamental: si la IA puede llegar a ser tan poderosa como dice Anthropic, EEUU no se puede permitir frenar su desarrollo.
China también pide reglas
Xi Jinping se ha metido de lleno en el debate y pide un marco global de gobernanza de la IA "basado en el consenso". Hasta ha presentado dicha propuesta a los países de BRICS (Brasil, Rusia, India y China) para fortalecer esa alianza. China plantea además la creación de una comunidad de IA Open Source dentro de ese bloque.
El discurso es muy parecido al de EEUU, aunque no lo digan de forma clara. Un periódico estatal chino ha calificado el discurso de Amodei de una táctica de la Guerra Fría. Otros hablan de que lo que está haciendo Amodei es usar la misma técnica que las instituciones religiosas han usado durante siglos enteros.
Frenar o cerrar el acceso
Una de las críticas a las propuestas de Amodei es que los grandes laboratorios de IA no dejarán necesariamente de desarrollar modelos cada vez más avanzados: simplemente limitarán quién puede utilizarlos. El conocido analista Ben Bajarin cree que habrá modelos frontera de ciberseguridad reservados para gobiernos y grandes empresas —Mythos es el ejemplo perfecto—.
Así pues, la carrera por la IA seguirá existiendo, pero una parte cada vez mayor estaría desarrollándose tras las bambalinas, a puerta cerrada. Para el usuario común, esto implica que el acceso a las capacidades más avanzadas podría quedar restringido a instituciones y grandes compañías, mientras las versiones abiertas al público seguirían siendo las de menor alcance.
El dilema del prisionero
EEUU y China pueden tener un interés común en evitar que aparezca una IA que nadie pueda controlar, y eso debería hacer que ambas potencias frenaran el ritmo de desarrollo. El problema es el que hemos comentado: la decisión clara para cada "jugador" es seguir corriendo mientras no haya garantías de que el rival va a detenerse. Es el viejo dilema del prisionero: dos personas pueden no cooperar incluso si ello va en contra del interés de ambas.
Las empresas tienen el mismo problema. La reflexión de Amodei y Anthropic es justo lo que el público necesita oír, pero hay una realidad: si quisieran retrasar su próximo Claude, podrían hacerlo: nadie se lo impide.
El conocido emprendedor e inversor David Sacks precisamente critica esa postura de Amodei o Altman: si realmente quieren ir más despacio, pueden hacerlo sin esperar una regulación. Sin embargo, Anthropic tendría que asumir que OpenAI, Google, xAI, Meta o los laboratorios chinos aprovecharían ese tiempo para alcanzarla y superarla. Y si varias empresas deciden conjuntamente no competir, quizás aparecerían preguntas regulatorias antimonopolio. El resultado: todos quieren ser prudentes, pero ninguno quiere comprometerse.
El problema de verificar que se frena de verdad
Durante la Guerra Fría, EEUU y la Unión Soviética podían negociar límites sobre misiles, bombarderos o cabezas nucleares y establecer mecanismos de inspección y vigilancia para que se cumplieran esos límites. Con la IA, controlar el ritmo de entrenamiento es mucho más complicado.
El acceso a recursos como chips o energía permite plantear puntos de control, pero el software mejora, los algoritmos son cada vez más eficientes y los modelos pueden entrenarse en sistemas distribuidos. En términos simples: a diferencia de un misil, un modelo de IA no se puede contar ni inspeccionar físicamente, y su entrenamiento puede repartirse entre varios centros sin que sea evidente desde fuera. Que EEUU confíe sin más en China y viceversa parece realmente difícil.
Por ahora no existe un mecanismo acordado que permita verificar si un país o una empresa está realmente frenando el desarrollo de sus modelos más avanzados. El debate sigue abierto y sin una hoja de ruta común.
Comentarios
Comparte tu opinión de manera respetuosa.
Inicia sesión para dejar un comentario.