China ha decidido poner límites a un tipo muy concreto de inteligencia artificial: aquella diseñada para parecer una persona. Las empresas Doubao (ByteDance) y Qwen (Alibaba) han anunciado que desactivarán sus agentes de IA personalizados antes de que la normativa entre en vigor de forma inminente. Tencent ya lo había hecho con su modelo Yuanbao.
El apagón de la IA antropomórfica ya tiene fecha. Doubao avisó a sus usuarios de que sus agentes de IA personalizados dejarán de funcionar el próximo 15 de julio por "ajustes de producto" y que tres meses después tampoco podrán acceder a las conversaciones almacenadas. En Qwen los agentes desaparecerán el 10 de julio y el resto de funciones lo harán cinco días después. Estas medidas se toman ante la entrada en vigor de las nuevas Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica con IA, publicadas por el gobierno chino.
Qué regula exactamente la normativa
Lo interesante de la normativa es que no regula la IA generativa en general. Deja fuera los asistentes para trabajar, estudiar, investigar o atender al cliente. Lo que regula son los sistemas que "simulan rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos para proporcionar una interacción emocional sostenida". El problema no es que la IA sea más o menos potente, sino que llegue a simular el comportamiento de una persona.
Las funciones que desaparecen de estas plataformas son las que permitían convertir a un chatbot generalista en un personaje de ficción, un amigo o incluso un compañero sentimental. Dicha personalización confería a esos agentes una personalidad fija, una memoria y un estilo de conversación característicos que reforzaban la interacción. No eran herramientas para sustituir al buscador, sino sistemas diseñados para atrapar al usuario en una relación cada vez más personal e íntima.
Dependencia emocional y protección de vulnerables
La regulación china no se centra en riesgos de peligrosidad como los que se debaten en la Unión Europea. En lugar de eso, vigila interacciones en las que hay dependencia emocional, potencial adicción e incluso manipulación por parte de estos sistemas. Se prohíbe que fomenten vínculos emocionales que podrían llevar a decisiones irracionales, con el objetivo de evitar el deterioro de las relaciones personales.
Según la regulación, la IA debe intervenir cuando detecte situaciones de riesgo. Si un usuario muestra emociones demasiado extremas hacia estos chatbots o si se percibe peligro para su integridad, la IA debe animarle a buscar ayuda o activar protocolos de emergencia. También debe avisar si ve un uso excesivo y recordar al usuario que descanse tras dos horas de conversación continua.
Las medidas prestan especial atención a usuarios menores de edad y personas mayores. Se prohíbe que estos chatbots ofrezcan relaciones virtuales íntimas, como parejas o familiares artificiales, y exigen consentimiento paterno. También hay obligación de tomar precauciones con personas mayores, colectivo especialmente expuesto a la soledad y a una posible dependencia emocional.
Esta es probablemente la primera gran regulación que no intenta controlar lo potentes que son los modelos de IA, sino lo capaces que son para establecer relaciones personales con los usuarios. La discusión probablemente terminará llegando a Europa y Estados Unidos, y supone una piedra de toque para una tecnología que lleva tiempo infiltrándose en el terreno personal.
Comentarios
Comparte tu opinión de manera respetuosa.
Inicia sesión para dejar un comentario.