La semana pasada, Taylor Swift presentó un trío de solicitudes de marca para proteger su imagen y su voz. Una está destinada a cubrir una conocida fotografía de la cantante pop sosteniendo una guitarra rosa durante un concierto de su gira Eras, que ha batido récords, mientras que las dos marcas sonoras son para simples frases identificativas: «Hey, it’s Taylor Swift» y «Hey, it’s Taylor».
Hola, no es Taylor Swift
La medida llega en un momento en que los deepfakes de IA siguen proliferando en las redes sociales. A principios de este mes, un hombre de Ohio fue la primera persona condenada en virtud de una nueva ley federal en EE UU que penaliza los engaños visuales «íntimos» de este tipo. Los famosos, por su parte, corren el riesgo tanto de deepfakes explícitos como de falsos apoyos.
Un nuevo informe de la empresa de detección de IA Copyleaks muestra que Swift y otras estrellas han utilizado recientemente su imagen en anuncios fraudulentos. Los investigadores identificaron un grupo de videos patrocinados en TikTok que parecían mostrar a Swift, Kim Kardashian, Rihanna y otras estrellas promocionando «servicios potencialmente fraudulentos o maliciosos». Los clips hacían uso de lo que los investigadores llaman «voces que suenan realistas», así como de «filtros texturizados destinados a enmascarar algunos de los defectos de las imágenes generadas por IA».
Los anuncios falsos muestran a Swift y otros en lo que parecen ser escenarios habituales de entrevistas: alfombras rojas o sets de programas de entrevistas. Sin embargo, en lugar de responder a las preguntas, las celebridades generadas por IA hablan de supuestos programas de recompensa en los que se paga a los usuarios de TikTok por dar su opinión sobre el contenido que se les sirve.
Ten cuidado con las invitaciones
«Esta semana he estado leyendo sobre comportamiento digital y me he topado con una función en pruebas llamada TikTok Pay», expresa una Swift falsificada en un anuncio que utiliza imágenes manipuladas de una aparición de la verdadera Swift en The Tonight Show Starring Jimmy Fallon en octubre. «Se está invitando a determinados usuarios a ver videos y enviar opiniones». La Swift deepfake continúa diciendo que el programa está en «despliegue limitado» por el momento, pero anima a los espectadores a ver si califican para ello, añadiendo: «Si se te abre la página, no te lo pienses demasiado».
Naturalmente, cualquiera que haga clic es aceptado. Al final, estos anuncios llevan al usuario a un servicio de terceros que, a pesar del nombre y el logotipo de TikTok, evidentemente ha sido codificado con la plataforma de IA Lovable, cuya propia marca aparece en la página y en la URL. En este punto, según los investigadores, se pide al usuario que empiece a introducir su nombre y su información personal.
Aunque no está claro qué pretenden los anunciantes con todos los datos extraídos a través de su promoción deepfake de famosos, los anuncios fraudulentos con objetivos similares son excesivamente comunes. La semana pasada, la organización sin fines de lucro Consumer Federation of America demandó a Meta, alegando que la gigante tecnológica engañó a los usuarios de Facebook e Instagram sobre sus esfuerzos para acabar con los anuncios fraudulentos, y se benefició al permitir que proliferaran. El lunes, la Comisión Federal de Comercio de EE UU informó que las estafas en las redes sociales han aumentado en general, y que las de Facebook representan el mayor número de pérdidas económicas.
No es de extrañar que Swift y sus colegas estén tomando medidas legales para distanciarse de esta economía fraudulenta. Aunque Swift no se ha pronunciado públicamente sobre los motivos de su solicitud de registro de marca, es difícil pasar por alto el daño que los deepfakes engañosos suponen para su multimillonaria marca. El problema es que cada día son más sofisticados.
Artículo originalmente publicado en WIRED. Adaptado por Mauricio Serfatty Godoy.
