Un modelo de inteligencia artificial muy avanzado que interfiere de forma autónoma en la red de mando nuclear de una gran potencia o lanza un ataque cibernético contra ella haciéndole creer que la agresión proviene de la otra superpotencia. Ese es el escenario que analistas de Estados Unidos y China están evaluando como una posibilidad real y para el que buscan protocolos de contención, según confirmó la agencia Reuters.
En un contexto así, Washington y Pekín solo tendrían unos pocos minutos para decidir si el ataque procede realmente de la otra nación. El avance acelerado de la IA llevó a los expertos a contemplar ese supuesto, antes reservado a la ficción, y a trabajar de manera conjunta en mecanismos que eviten una escalada. Los especialistas consideran que un suceso de ese tipo colocaría al mundo al borde del abismo.
De analizar los riesgos y proponer soluciones se encarga un grupo de analistas de ambos países. Donald Trump y Xi Jinping abordarían el asunto el próximo 24 de septiembre en una reunión prevista en la Casa Blanca, en Washington.
Las medidas que ya están sobre la mesa
El pasado 9 de septiembre, los expertos que asesoran a sus respectivos gobiernos publicaron un artículo conjunto con algunas de las medidas posibles para evitar que un modelo de IA "rebelde" desencadene un conflicto entre EEUU y China. Los autores del informe son Melanie Sisson, investigadora sénior de la Brookings Institution (EEUU), y Tianjiao Jiang, profesor asociado de la Universidad de Fudan (China).
El grupo liderado por Sisson y Jiang propone tres ejes centrales:
- Establecer líneas rojas alrededor de los sistemas nucleares de EEUU y China.
- Mantener protocolos de control humano sobre los ciberataques que tengan consecuencias graves.
- Crear una línea de comunicación militar directa y dedicada entre ambos países para abordar cualquier incidente relacionado con la IA.
Estas medidas están inspiradas en los protocolos que establecieron la Unión Soviética y EEUU durante la Guerra Fría para tratar un posible incidente nuclear.
El riesgo de la respuesta automática
Según estos expertos, el mayor peligro reside en que la IA defensiva de un país responda de forma automática ante una actividad sospechosa y la otra nación interprete esa respuesta como un ataque, tomando represalias antes de entender qué ocurrió realmente. La línea directa propuesta permitiría a los dos gobiernos conversar antes de iniciar cualquier represalia y aclarar lo sucedido sin desencadenar una escalada de consecuencias imprevisibles.
El debate entre los especialistas
No todos los especialistas coinciden en que la estrategia de Sisson y Jiang sea la adecuada. Lora Saalman, investigadora sénior del Instituto Internacional de Investigación para la Paz de Estocolmo (Suecia), considera que esta convergencia entre EEUU y China es necesaria. En cambio, Carla Freeman, de la Escuela de Estudios Internacionales Avanzados de Johns Hopkins (EEUU), pone en duda la utilidad real de los canales de diálogo que ambas superpotencias están estableciendo en el ámbito de los desafíos vinculados a la IA.
El debate sobre cómo regular la inteligencia artificial en entornos militares y estratégicos sigue abierto. La reunión prevista entre Trump y Xi Jinping aparece como el próximo hito para conocer si estas propuestas avanzan hacia compromisos concretos.
Comentarios
Comparte tu opinión de manera respetuosa.
Inicia sesión para dejar un comentario.