El fiscal de San Francisco envió a Meta una carta de cese y desistimiento en la que insta a la empresa a dejar de «permitir» anuncios de pago que incluyan contenido de abuso sexual infantil generado por IA, y le ha pedido que explique cómo es posible que dichos anuncios se hayan publicado en sus plataformas.
A inicios de la semana, WIRED informó de que Meta había publicado más de 350 anuncios en los últimos meses que transformaban imágenes fijas de menores, algunos de ellos identificados como personas reales, incluido un miembro de una familia real europea, en breves videoclips en los que se les mostraba realizando actos sexuales. Al hacer clic en ellos, estos anuncios dirigían a los usuarios a descargar aplicaciones de generación de imágenes y videos mediante IA, algunas de las cuales podían utilizarse para desnudar a personas o crear otras imágenes íntimas no consentidas.
Anuncios con deepfakes no consentidos
Los anuncios, detectados por investigadores del Tech Transparency Project (TTP), incluían varias publicaciones idénticas que se habían subido repetidamente. En conjunto, llegaron a más de 29,000 cuentas en países de la Unión Europea. Los anuncios, que se mostraron en Facebook, Instagram y Threads, también se dirigían a cuentas de EE UU, Australia y la India. WIRED informó inicialmente sobre 53 de estos anuncios a principios de agosto, pero más de 250 del total se publicaron en las plataformas de Meta tras este informe inicial.
«Meta no ha resuelto un problema conocido de anuncios sexualmente explícitos con menores generados por IA, pese a seguir obteniendo ingresos de ellos. Estos anuncios son perturbadores y causan daño a niños reales. Meta asegura tener tolerancia cero con la explotación infantil, pero la magnitud y la persistencia de estos problemas sugieren que los esfuerzos actuales son insuficientes. Esto es inaceptable, y Meta debe mejorar su actuación», afirma el fiscal municipal de San Francisco, David Chiu, en una declaración a WIRED.
«Ninguna empresa, y menos aún una que afirme que todos los anuncios se revisan y aprueban antes de su distribución y que, además, acepte pagos por dicha distribución, debería permitir que sus sistemas publicitarios se utilicen de esta manera», escribe Chiu en la carta de cuatro páginas que su oficina envió a los abogados de Meta.
La carta plantea una serie de preguntas sobre el funcionamiento de las políticas publicitarias y los sistemas de seguridad de Meta, y solicita que el personal jurídico, de seguridad infantil y de publicidad de la empresa entable «conversaciones inmediatas» con la oficina municipal. «Estos hallazgos son preocupantes porque sugieren que no se trata de un fallo aislado que Meta corrigió tras ser alertada por primera vez», escribe Chiu.
Meta afirma que «no hay indicios» de que los anuncios se mostraran en San Francisco, lo que significa que están «fuera de la jurisdicción del fiscal». Aunque la biblioteca publicitaria de Meta, que es un repositorio de anuncios, incluye algunos datos sobre anuncios publicados en EE UU, no desglosa en qué lugares del país pueden haberse mostrado.
En respuesta a las alegaciones jurisdiccionales de Meta, el portavoz de la Oficina del fiscal, Alex Barrett-Shorter, explica a WIRED que, dado que «los consumidores de San Francisco pueden acceder a los anuncios ilegales a través de los espacios en línea de Meta», el asunto es competencia de la ciudad de San Francisco.
«Nos parece sorprendente la respuesta de Meta. La empresa está más preocupada por la jurisdicción de San Francisco que por los casos de explotación a menores», expresa Barrett-Shorter.
Apple ha anunciado varias funciones nuevas de seguridad infantil que estarán disponibles próximamente en los iPhone y otros dispositivos con iOS 27. Esto es lo que va a cambiar.
Meta se pronuncia al respecto
Meta declaró a WIRED que muchos de los anuncios identificados por los investigadores del TTP ya habían sido retirados antes de que se denunciaran, ahora todos ellos han sido eliminados por infringir sus políticas, y que la mayoría tenía «menos de 200 impresiones» en las cuentas. «No toleramos las aplicaciones de deepfakes generadas por IA ni ningún tipo de explotación infantil, ya sea real o generada por IA», declaró anteriormente un portavoz de Meta. La empresa afirmó que el «gasto publicitario total» de los más de 300 anuncios encontrados por los investigadores era inferior a 5,000 dólares.
La carta señala que la Fiscalía de San Francisco revisó muchos de los anuncios detectados por los investigadores de TTP. También exige a Meta que impida su publicación en Facebook e Instagram y explique cómo lograron eludir sus sistemas de moderación. Además, pide a la empresa que detalle cómo escala y denuncia estos anuncios ante el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), y qué medidas toma contra los anunciantes responsables y los reincidentes.
