Desde la creación de internet a finales del siglo XX, han surgido diversas plataformas tecnológicas que proveen compañía y comunicación para los más solitarios, como las antiguas salas de chat, blogs, sitios web y apps de citas. Pero el surgimiento de la inteligencia artificial como herramienta de apoyo en tareas diarias, a partir del lanzamiento de ChatGPT en 2022, abrió una caja de pandora difícil de cerrar.
Con ello, se masificaron varios males a escalas nunca antes vistas, como el fenómeno de las noticias falsas y, más recientemente, estafas y suplantación de identidad a través de plataformas impulsadas con IA.
Así funcionan aplicaciones como CrushAI y su versión más popular, Crushmate, que se presentan en tiendas digitales como herramientas de compañía emocional o entretenimiento. Sin embargo, detrás de esa apariencia inocente, su verdadero propósito es crear imágenes falsas de desnudos de mujeres mediante tecnología de deepfake.
El funcionamiento es sencillo: la app solicita al usuario que suba una fotografía de una persona. Después, un algoritmo elimina la ropa de manera artificial y genera una imagen íntima falsa que imita el cuerpo de la persona en cuestión. Este tipo de manipulación atenta contra la privacidad y puede utilizarse para acosar, extorsionar o humillar a las víctimas.
A través de anuncios engañosos en redes sociales, como Instagram y Facebook, estas plataformas captan clientes que alimentan un peligroso negocio que mueve miles de dólares en todo el mundo.
¿Quién está detrás de estas apps?
Meta señala directamente a Joy Timeline HK Limited, una empresa con sede en Hong Kong, como responsable de esta red. Pero el caso es más complejo.
Analistas del colectivo de investigación Bellingcat identificaron al menos otras dos compañías vinculadas: Soul Friendship HK Limited, que aparece como desarrolladora de Crushmate en la App Store de Apple, y Wuhan Ruisen Zhuoxin Network Technology Co., con sede en China continental, que en 2024 solicitó el registro de la marca Crushmate en Estados Unidos.
Además, detectaron más de 150 dominios web asociados a Joy Timeline, muchos con nombres similares como crushai, crushx o crrru. Estas páginas ofrecen el mismo servicio: la creación de imágenes íntimas falsas bajo suscripción.
Los documentos de la solicitud de registro de Wuhan Ruisen muestran que las apps generan más de 45.000 dólares en suscripciones entre diciembre de 2023 y julio de 2024, lo que indica que es un negocio altamente rentable.
Lea también: Ni editar fotos, ni traducir: esta es la función de IA más usada por los colombianos en Android
La batalla legal de Meta contra esas apps
A principios de junio, Meta presentó una demanda civil contra Joy Timeline, solicitando 289.200 dólares por los gastos derivados de la investigación, la retirada de los anuncios y el daño a su reputación.
La compañía también pidió una orden judicial que impida a Joy Timeline promocionar aplicaciones similares en el futuro, ya que el número de anuncios publicados en redes sociales es preocupante: 87.000 posts violatorios detectados solo en Instagram y Facebook, lo que muestra la magnitud de la estrategia publicitaria de estas empresas y la dificultad para controlar este tipo de contenidos.
Pero el principal riesgo de estas apps es la violación de la privacidad de las mujeres cuyas imágenes son manipuladas. Una fotografía tomada de un perfil público en internet puede convertirse en un desnudo falso en cuestión de segundos, contenido que puede viralizarse rápidamente con consecuencias graves para las víctimas.
Además, la existencia de estas apps normaliza el uso de la inteligencia artificial con fines abusivos. Expertos de Bellingcat alertan que estas herramientas pueden alimentar fenómenos de acoso digital y chantaje. Aunque Crushmate ya anunció su cierre, investigadores advierten que sus creadores pueden volver a operar bajo otro nombre.