Investigadores de OpenAI alertan sobre avances en IA que podrían amenazar la humanidad 

En un giro inesperado en el mundo de la inteligencia artificial, la agencia Reuters ha informado sobre una carta enviada por investigadores de OpenAI al consejo de administración, advirtiendo sobre un descubrimiento de IA que podría amenazar a la humanidad. Esta carta se vincula con la reciente destitución de Sam Altman como CEO de la compañía, aunque su relación directa con el despido sigue siendo incierta.

El informe, que también cita a The Information y The Verge, revela que la carta alertaba sobre un avance en IA liderado por el científico jefe de OpenAI, Ilya Sutskever. Se cree que este avance podría llevar al desarrollo de modelos de IA extremadamente potentes, suscitando preocupaciones sobre la falta de salvaguardias adecuadas para su comercialización.

Según Reuters, la carta fue un factor clave en una serie de agravios que llevaron al despido de Altman. Sin embargo, otros medios como The Verge sugieren que la carta nunca llegó al consejo y no influyó en la decisión.

La víspera de su despido, Altman habló en una cumbre de directivos, haciendo alusión a importantes avances en OpenAI, pero sin especificar detalles. Algunos empleados de OpenAI creen que sus palabras se referían a este nuevo avance técnico.

Posteriormente, Mira Murati, quien fue designada inicialmente como sustituta provisional de Altman, mencionó el proyecto, conocido como Q*, a los empleados. Este proyecto ha generado especulaciones internas sobre la posibilidad de un gran avance en la búsqueda de la superinteligencia.

A pesar de estas especulaciones, fuentes cercanas al proyecto Q* han minimizado su importancia, y la compañía no ha confirmado oficialmente la naturaleza del avance.

Este desarrollo ha llevado a un intenso debate sobre los riesgos potenciales de la IA. Algunos expertos advierten sobre el peligro de máquinas superinteligentes, mientras que otros, como el nuevo jefe provisional Emmet Shear, han expresado opiniones más conservadoras sobre el avance de la IA.

El regreso de Altman a su cargo, después de la presión de empleados e inversores, sugiere una continua incertidumbre y debate sobre el futuro y la dirección de OpenAI y el campo de la inteligencia artificial en general.