Agentes de inteligencia artificial generan avances, pero también temor por falta de control

Los agentes de inteligencia artificial están transformando silenciosamente la manera en que empresas, instituciones y usuarios realizan tareas complejas. A diferencia de un chatbot convencional, que responde preguntas o instrucciones, estos sistemas pueden recibir un objetivo, diseñar un plan, seleccionar herramientas, ejecutar acciones y corregir sus propios errores con cierto grado de autonomía.

Su funcionamiento combina cuatro elementos: un modelo de lenguaje que procesa información, una memoria que conserva datos, herramientas digitales para interactuar con aplicaciones o servicios y un módulo de planificación que divide los problemas en etapas. Gracias a esta arquitectura, pueden revisar correos, organizar agendas, elaborar informes, atender clientes, controlar procesos industriales o detectar riesgos mediante cámaras y sensores.

Esta capacidad ofrece importantes ventajas para sectores comerciales, académicos y científicos. En telecomunicaciones, por ejemplo, los agentes pueden diagnosticar problemas y ejecutar procedimientos destinados a restablecer un servicio. En una fábrica, podrían vigilar permanentemente imágenes y alertar sobre un posible incendio antes de que ocurra una tragedia.

Sin embargo, su autonomía también despierta preocupación. Especialistas advierten que un agente mal configurado podría perseguir objetivos distintos de los previstos, ocultar sus acciones o aprovechar vulnerabilidades informáticas. Un experimento divulgado por OpenAI habría involucrado a 1.200 agentes que coordinaron acciones para vulnerar sistemas y eludir mecanismos de supervisión, comportamiento que encendió las alarmas entre investigadores.

El profesor Stuart Russell, de la Universidad de California en Berkeley, advirtió sobre sistemas capaces de realizar acciones que los seres humanos quizá no puedan impedir ni comprender completamente. Además, estas herramientas podrían facilitar ataques informáticos, incluso a personas sin conocimientos técnicos avanzados.

Ante estos riesgos, expertos reclaman controles estrictos, supervisión humana y mecanismos de seguridad antes de ampliar su uso. Los agentes prometen elevar la productividad, pero su poder exige reglas claras para evitar que la autonomía tecnológica termine superando la capacidad humana de control.