Jacob Coxon sostiene que trabajadores del sector temen perder el control de sistemas avanzados, mientras críticos cuestionan la evidencia y las posibles motivaciones empresariales.
Jacob Coxon, exinvestigador de Anthropic y OpenAI, advirtió que existe un temor creciente entre quienes desarrollan sistemas avanzados de inteligencia artificial debido a la velocidad que ha alcanzado esta tecnología y a sus posibles consecuencias para la humanidad.
El especialista aseguró que numerosos empleados de estas compañías están “aterrados” y reflexionan diariamente sobre el impacto de su trabajo. Algunos, incluso, estarían reconsiderando sus planes personales ante el temor de que los avances tecnológicos provoquen una grave inestabilidad durante los próximos años.
Entre los escenarios planteados figura la aparición de sistemas capaces de perfeccionarse, actuar con mayor autonomía y operar coordinadamente mediante múltiples agentes digitales. Según Coxon, una red de este tipo podría efectuar ataques informáticos, manipular infraestructura crítica o intentar controlar espacios importantes de internet.
El exinvestigador respaldó el pedido del director ejecutivo de Anthropic, Dario Amodei, de reducir el ritmo de desarrollo y establecer mecanismos independientes de supervisión. Sin embargo, afirmó que cualquier acuerdo debería involucrar a Estados Unidos, China y otras potencias para evitar una competencia internacional sin controles suficientes.
Anthropic respondió que reconoce tanto los beneficios extraordinarios como los riesgos inéditos de la inteligencia artificial. La empresa aseguró que somete sus modelos a pruebas rigurosas, publica resultados de seguridad y promueve reglas verificables para coordinar el lanzamiento de sistemas más potentes.
Las advertencias recibieron el respaldo de especialistas como Evan Hubinger y Geoffrey Hinton, quienes consideran razonable evaluar seriamente los riesgos catastróficos. No obstante, otros empresarios e investigadores cuestionaron estas proyecciones por considerarlas especulativas o carentes de evidencia concluyente.
También surgieron críticas sobre posibles intereses comerciales. Algunos observadores sostienen que las grandes compañías podrían utilizar el discurso del peligro para impulsar regulaciones que dificulten el ingreso de nuevos competidores.
Pese a sus advertencias, Coxon reconoció que la inteligencia artificial también podría curar enfermedades, acelerar descubrimientos científicos y mejorar la calidad de vida. El desafío, señaló, consiste en garantizar que su desarrollo permanezca bajo control humano.
Comentarios
Comparte tu opinión de manera respetuosa.
Inicia sesión para dejar un comentario.