La lucha contra la inteligencia artificial utilizada para fines ilícitos continúa escalando, con Meta, la empresa matriz de Facebook, Instagram y WhatsApp, tomando acciones legales contundentes. En esta ocasión, la compañía ha demandado en Hong Kong a Joy Timeline HK Limited, la entidad detrás de las aplicaciones CrushAI, conocidas por generar imágenes sexualmente explícitas o “desnudar” digitalmente a personas sin su consentimiento. El objetivo principal de esta demanda es impedir que CrushAI continúe promocionando sus servicios en las plataformas de Meta, donde había encontrado un canal de difusión, a pesar de las políticas internas que prohíben este tipo de contenido. La demanda se produce en un contexto global de creciente preocupación por el uso indebido de la IA y su impacto en la privacidad y la seguridad de las personas, especialmente las mujeres, que son las víctimas más frecuentes de estas prácticas. La proliferación de estas aplicaciones ha generado un debate sobre la necesidad de regular la IA y establecer límites claros a su uso, así como sobre la responsabilidad de las empresas tecnológicas en la prevención y el control de este tipo de abusos.
Según el reportaje de Gestión.pe, esta acción legal por parte de Meta busca enviar un mensaje claro a aquellos que intentan eludir sus políticas publicitarias para promover servicios que infringen las normas de la comunidad y causan daño a los usuarios.
La empresa tecnológica ha declarado que Joy Timeline HK Limited ha intentado repetidamente sortear el proceso de revisión de anuncios de Meta, publicando anuncios que, tras ser detectados y eliminados, volvían a aparecer bajo diferentes formas. Meta afirma que este comportamiento representa una clara violación de sus normas y un desprecio por la seguridad y el bienestar de sus usuarios. La empresa argumenta que se toma muy en serio este tipo de abusos y que está comprometida a hacer todo lo posible para proteger a su comunidad de usuarios.
Meta ha estado trabajando para eliminar de forma constante los anuncios en páginas de Facebook y cuentas de Instagram que promocionan estos servicios. Además, ha bloqueado los enlaces a sitios web que los alojan, impidiendo así que se pueda acceder a ellos desde las plataformas de Meta. La empresa también ha restringido los términos de búsqueda relacionados con estas prácticas, como “desnudar”, “desvestir” y “eliminar ropa”, para dificultar la búsqueda de estos servicios en sus plataformas.
Sin embargo, los creadores de estas aplicaciones han encontrado formas de evadir estas medidas de control. Algunos utilizan imágenes inocuas en sus anuncios para evitar ser detectados por la tecnología de detección de desnudos de Meta, mientras que otros crean rápidamente nuevos nombres de dominio para reemplazar los sitios web que son bloqueados. Esta “carrera armamentista” entre Meta y los creadores de estas aplicaciones pone de manifiesto la dificultad de controlar este tipo de contenido y la necesidad de desarrollar nuevas estrategias y tecnologías para combatirlo.
Para hacer frente a este desafío, Meta está trabajando con expertos externos para ampliar la lista de términos, frases y emojis utilizados en estos anuncios, con el fin de mejorar su capacidad de detección. La empresa también ha anunciado que compartirá información sobre estas aplicaciones con otras empresas tecnológicas, para que también puedan abordarlas en sus respectivas plataformas. Esta colaboración entre empresas es esencial para crear un frente común contra el uso indebido de la IA y proteger a los usuarios de este tipo de abusos.
La problemática de las aplicaciones que utilizan IA para desnudar a personas sin su consentimiento ha llamado la atención de legisladores en Estados Unidos. El senador Dick Durbin envió una carta al director ejecutivo de Meta, Mark Zuckerberg, instándolo a abordar el papel de su empresa al permitir que Joy Timeline publicara anuncios que violan las normas de Meta sobre desnudez adulta, actividad sexual y acoso. Esta presión política, junto con la creciente conciencia pública sobre los riesgos de la IA, está impulsando a las empresas tecnológicas a tomar medidas más contundentes para proteger a sus usuarios y prevenir el uso indebido de sus plataformas.
