Un artículo publicado en arXiv advierte que las plataformas digitales enfrentan tres riesgos principales ligados a la inteligencia artificial y propone enfrentarlos con contratos comunitarios, una versión digital de una idea del pensador Pierre-Joseph Proudhon. El trabajo, identificado como arXiv:2611.06374v1, describe los riesgos y presenta aplicaciones para teléfonos inteligentes que implementan esos contratos, según el resumen del paper.
El primer riesgo señalado es el control de plataformas globales, sociales y económicas por parte de la IA, lo que, según el texto, deja a la mayoría de la humanidad vulnerable a ese control. El segundo apunta a agentes de IA que operan de forma anónima en plataformas digitales junto a personas, posiblemente haciéndose pasar por humanos, al servicio de fines y restricciones desconocidos y sin rendición de cuentas. El tercero son los deepfakes no atribuidos, generados por IA anónima, que las personas no pueden distinguir de contenido genuino y cuyos productores evitan responsabilidades.
Qué proponen los autores
Frente a ese panorama, los investigadores proponen contratos comunitarios (grassroots contracts) como mecanismo para contener esos riesgos. El artículo presenta dos aplicaciones concretas: una para un grafo social con agentes de IA que rindan cuentas y otra para una red social con procedencia digital. Un grafo social es, en términos simples, el mapa de relaciones entre usuarios y agentes; la procedencia digital alude a la capacidad de rastrear el origen de un contenido. Ambas cuentan con aplicaciones funcionales para teléfonos inteligentes, según el resumen del paper.
El enfoque busca que los agentes de IA que interactúan en entornos digitales tengan responsabilidad identificable y que el contenido pueda rastrearse hasta su origen, de modo que los usuarios puedan distinguir entre lo generado por humanos y lo producido por sistemas automatizados, de acuerdo con la propuesta de procedencia digital descrita por los autores.
Contexto y alcance
La propuesta se apoya en una noción de hace dos siglos, la de Proudhon, adaptada al entorno digital. El artículo no detalla en su resumen precios, fechas de lanzamiento ni empresas involucradas, y se limita a presentar el marco conceptual y las aplicaciones desarrolladas.
El trabajo se enmarca en la categoría de Ciencias de la Computación, área de Inteligencia Artificial, y está disponible en arXiv con opciones de descarga en PDF y HTML. Los autores no especifican en el resumen una fecha de implementación ni un plan de despliegue masivo.
El próximo paso queda en el ámbito de la investigación: el paper presenta las aplicaciones como demostración de que los contratos comunitarios pueden implementarse, sin que se anuncie una adopción por parte de plataformas existentes. Queda pendiente conocer la evaluación de esas apps y su alcance real, datos que no aparecen en el resumen.
Comentarios
Comparte tu opinión de manera respetuosa.
Inicia sesión para dejar un comentario.