El CEO de Meta, Mark Zuckerberg, rompió su silencio sobre la polémica de seguridad en la inteligencia artificial con un mensaje publicado en su cuenta de X, en el que rechazó una pausa coordinada de la industria y trasladó a cada laboratorio la responsabilidad de entrenar modelos seguros. La intervención llega después de que Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk pidieran públicamente el fin de semana una ralentización coordinada de la investigación, según el material de contexto difundido por Expansión.
Zuckerberg no niega que existan riesgos, pero sostiene que cada empresa debe avanzar al ritmo que necesite para entrenar sus modelos de manera segura. "Cada laboratorio tiene la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de manera segura", escribió. Además, recordó que los laboratorios "enfrentan una responsabilidad legal significativa si sus modelos causan daño".
La alineación como ventaja competitiva
Para el CEO de Meta, la seguridad y la alineación de los modelos dejaron de ser un aspecto secundario para convertirse en un factor central de diferenciación. "Mi opinión es que la confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos. Cualquier laboratorio que no se enfoque en la alineación se quedará atrás", afirmó.
La propuesta encabezada por Amodei apunta a ralentizar el desarrollo para que la seguridad alcance el mismo nivel que las capacidades técnicas. Zuckerberg rechaza ese enfoque y sostiene que la seguridad funciona como argumento de venta frente a sus competidores directos, Anthropic y OpenAI.
Crítica a la automejora recursiva
Zuckerberg también cuestionó la carrera por la llamada automejora recursiva, es decir, que los modelos logren mejorarse a sí mismos. En su opinión, los laboratorios no deberían enfocar gran parte de su cómputo en ese objetivo, sino en "servir a las personas", porque es "una de las mejores formas de asegurar que desarrollemos esta tecnología de manera segura".
Se trata de una crítica indirecta a la creación de una superinteligencia, eje central del argumentario de Anthropic. En conversaciones previas con el New York Times, el CEO de Meta ya había cuestionado esa tesis: "Creo que es literalmente imposible tener una única superinteligencia benevolente que esté alineada con todos a la vez".
Meta y el retraso del modelo Muse
Zuckerberg destacó que Meta ya aplica varias de las medidas que propone Amodei. Aseguró que retrasaron el lanzamiento de su modelo Muse "durante varios meses para enfocarse en la seguridad y la protección" y añadió: "No pedimos que todos los demás lo hicieran. Simplemente lo hicimos como parte de nuestro trabajo diario porque claramente era lo correcto para las personas y para nosotros".
El CEO también señaló que su empresa integra evaluadores y asesores independientes "en varias áreas porque ayuda a producir un mejor trabajo", y añadió otro dardo hacia la competencia: "Otros laboratorios simplemente pueden hacer esto también".
La disputa entre IA abierta y cerrada
La postura de Zuckerberg se enmarca en una división más profunda de la industria entre los desarrolladores de modelos propietarios cerrados, como OpenAI y Anthropic, y quienes impulsan sistemas abiertos y personalizables, según el análisis difundido por Expansión. El CEO de Nvidia, Jensen Huang, se pronunció en la misma línea el martes: afirmó que no hay necesidad de nuevas leyes o regulaciones estadounidenses sobre seguridad en IA e instó a los laboratorios a no caer en una "falsa dicotomía" entre velocidad de innovación y capacidad de desarrollar productos seguros.
"Las fuerzas del mercado ya existen. No necesitamos nuevas leyes ni nuevas regulaciones. Simplemente necesitamos que las empresas decidan que, cuando se trata de ir lo más rápido posible, creo que la innovación, la velocidad y la seguridad de los productos no son compatibles; es una falsa dicotomía", declaró Huang en un evento con el CEO de Salesforce, Marc Benioff, en San Francisco.
Huang sostuvo que las empresas deberían centrarse individualmente en no lanzar productos peligrosos y que "se puede tener innovación y seguridad al mismo tiempo". Google y Microsoft, en cambio, manifestaron su apoyo a las propuestas de cooperación industrial para marcar el ritmo de la vanguardia.
El próximo lanzamiento de Meta
Meta ya lanzó su modelo de IA Muse Spark y un agente personal. Según el New York Times, se espera que en las próximas semanas haya un nuevo lanzamiento, al que internamente se refieren como Watermelon y que sería el más potente que han hecho hasta la fecha. La compañía también fichó a numerosos ingenieros e investigadores con ofertas salariales elevadas para recortar distancia con su competencia.
En paralelo, Zuckerberg defendió una "superinteligencia personalizada" frente al modelo centralizado: sistemas que se adapten a las necesidades y valores de cada persona. "Básicamente la combinación de una IA muy potente e inteligente con información contextual sobre ti", afirmó.
Comentarios
Comparte tu opinión de manera respetuosa.
Inicia sesión para dejar un comentario.