La inteligencia artificial continúa su rápida evolución, generando tanto entusiasmo como preocupación en diversos sectores. El desarrollo de modelos más avanzados, como el Claude 3.7 Sonnet de Anthropic, plantea interrogantes sobre su impacto en la economía, la seguridad y el futuro del trabajo, además de la necesidad de un debate profundo sobre los riesgos potenciales que acompañan a estas tecnologías emergentes.
Según un extenso reportaje del podcast Hard Fork de The New York Times, el CEO de Anthropic, Dario Amodei, compartió detalles sobre el nuevo modelo Claude 3.7 Sonnet y sus implicaciones.
Amodei explicó que Claude 3.7 Sonnet se distingue por su enfoque en tareas del mundo real, a diferencia de otros modelos centrados principalmente en matemáticas y programación competitiva. Destacó que este modelo es más eficaz en la codificación del mundo real y en el seguimiento de instrucciones complejas, lo que lo hace valioso para diversas aplicaciones, incluida la optimización de la cadena de suministro y el análisis de datos financieros. Además, Claude 3.7 Sonnet ofrece un “modo de pensamiento extendido” que permite a los usuarios solicitarle que dedique más tiempo a reflexionar sobre una tarea, similar a cómo un humano abordaría un problema complejo.
Un aspecto importante que Amodei abordó fue la latente posibilidad de que los modelos de IA alcancen un nivel de capacidad que represente un riesgo significativo en el futuro cercano. Mencionó que Anthropic está realizando pruebas rigurosas para evaluar cómo sus modelos podrían ser utilizados para fines maliciosos, como la creación de armas biológicas o químicas. Si bien Claude 3.7 Sonnet aún no representa un peligro inmediato, Amodei advirtió que la próxima generación de modelos podría superar este umbral en los próximos meses, lo que requeriría medidas de seguridad adicionales y una mayor colaboración entre la industria y los responsables políticos.
El auge de la IA también ha intensificado la competencia entre las empresas tecnológicas, y Amodei reconoció que las innovaciones se están replicando a un ritmo acelerado. Sin embargo, argumentó que los modelos de IA siguen siendo relativamente distintos entre sí, lo que crea oportunidades para la diferenciación y la especialización. Amodei cree que el mercado de la IA se segmentará cada vez más, con modelos adaptados a las necesidades específicas de diferentes usuarios y sectores.
Finalmente, Amodei expresó su preocupación por el auge de la IA en países autocráticos como China y Rusia. Advirtió que la IA podría ser utilizada como una herramienta de opresión y que las democracias liberales deben mantener una ventaja en esta tecnología para proteger sus valores y su seguridad. Amodei apoya las medidas de control de exportaciones para restringir el acceso de los países autoritarios a las tecnologías de IA más avanzadas, si bien, algunos expertos opinan que esto podría exacerbar las tensiones geopolíticas e incluso provocar una “guerra fría” tecnológica.
