La proliferación de aplicaciones que utilizan inteligencia artificial para generar imágenes sexualmente explícitas sin consentimiento ha generado una creciente preocupación en la industria tecnológica y entre los legisladores. Este tipo de software, que permite “desnudar” digitalmente a personas, plantea serias cuestiones sobre privacidad, seguridad y el potencial para el abuso y el acoso en línea, lo que ha forzado a las grandes plataformas a tomar medidas más enérgicas.
Según el reportaje de Gestión.pe, Meta, la empresa matriz de Facebook, WhatsApp e Instagram, ha presentado una demanda en Hong Kong contra Joy Timeline HK Limited, la entidad detrás de las aplicaciones CrushAI. La demanda busca impedir que esta compañía continúe promocionando sus servicios en las plataformas de Meta, después de repetidos intentos de eludir las políticas publicitarias de la compañía.
La acción legal de Meta, según la propia empresa, refleja su “seriedad” ante el uso indebido de sus plataformas y su compromiso de salvaguardar a su comunidad de usuarios. El gigante tecnológico ha estado eliminando de forma constante anuncios y cuentas que promocionan estas aplicaciones, además de bloquear los enlaces a los sitios web que las alojan, todo esto en concordancia con los esfuerzos para restringir términos de búsqueda explícitos en Facebook e Instagram.
Sin embargo, la lucha contra estas aplicaciones se ha visto complicada por las tácticas evasivas de los anunciantes, quienes utilizan imágenes inocuas para burlar la detección automatizada o crean rápidamente nuevos dominios web para reemplazar los sitios bloqueados. Meta reconoce la necesidad de adaptarse a estas estrategias y está colaborando con expertos externos para ampliar su capacidad de detección, incluyendo la identificación de nuevos términos, frases e incluso emojis utilizados para promover este tipo de servicios. De hecho, en respuesta a las crecientes críticas, Meta está buscando la colaboración con otras empresas tecnológicas con el objetivo de compartir información sobre estas aplicaciones, facilitando así que también puedan tomar medidas en sus respectivas plataformas.
La creciente popularidad de estas aplicaciones ha generado alertas entre investigadores y legisladores en Estados Unidos. El senador Dick Durbin, por ejemplo, envió una carta a Mark Zuckerberg en febrero, instándolo a abordar el papel de Meta en la promoción de CrushAI. En ella señalaba que estas aplicaciones violan las normas de Meta sobre desnudez adulta y acoso. La preocupación del senador se basa en informes que revelaron que miles de anuncios relacionados con CrushAI se publicaron en las plataformas de Meta durante las primeras semanas de este año.
La demanda de Meta en Hong Kong se produce en un contexto de creciente escrutinio y presión regulatoria sobre las empresas tecnológicas para que tomen medidas más efectivas contra la desinformación, el discurso de odio y, en este caso, la explotación sexual generada por inteligencia artificial. El futuro de estas aplicaciones y la capacidad de las plataformas para controlarlas siguen siendo un desafío crucial en la era digital.
