La renuncia del investigador Jacob Coxon a Anthropic reavivó el debate internacional sobre la velocidad con que avanzan los sistemas de inteligencia artificial y la capacidad real de las empresas para mantenerlos bajo control.
Coxon, británico de 27 años, también trabajó anteriormente en OpenAI y participó durante aproximadamente tres años en el entrenamiento de modelos avanzados. Al anunciar su salida, acusó a ambas compañías de competir por desarrollar una superinteligencia capaz de mejorarse a sí misma sin contar todavía con garantías suficientes de seguridad.
El especialista advirtió que estos sistemas podrían superar las capacidades humanas, vulnerar infraestructuras digitales y obtener poder o recursos fuera del control de sus creadores. Su mensaje alcanzó una amplia repercusión y recibió el respaldo de Evan Hubinger, responsable de pruebas de alineamiento en Anthropic, quien admitió que la empresa aún no dispone de un plan definitivo para controlar una eventual superinteligencia.
Anthropic respondió que reconoce tanto los beneficios como los riesgos inéditos de esta tecnología y sostuvo que desarrolla modelos con salvaguardas robustas. Su director ejecutivo, Dario Amodei, también ha alertado anteriormente sobre la posibilidad de que algún laboratorio pierda el control de un sistema avanzado.
La dimisión ocurre mientras crecen los reclamos para regular al sector. En julio, cerca de 1.400 trabajadores de compañías tecnológicas solicitaron al Gobierno estadounidense establecer límites que permitan reducir riesgos. Sin embargo, el Congreso no ha aprobado controles integrales y las principales empresas continúan operando, en gran medida, mediante compromisos voluntarios.
El caso expone una contradicción cada vez más visible: quienes construyen la inteligencia artificial destacan su enorme potencial, pero algunos también temen consecuencias catastróficas. Coxon plantea frenar el desarrollo acelerado hasta establecer mecanismos verificables que impidan que la competencia comercial coloque la seguridad pública en segundo plano. Su renuncia aumenta la presión sobre gobiernos, laboratorios, científicos y reguladores.
Comentarios
Comparte tu opinión de manera respetuosa.
Inicia sesión para dejar un comentario.