Uma investigação encontrou mais de 50 anúncios pagos com material sexual de abuso infantil gerado por inteligência artificial nas plataformas da Meta. As peças circularam no Facebook, Instagram, Messenger e Threads, alcançaram usuários nos Estados Unidos, no Reino Unido e em países europeus, e algumas permaneceram disponíveis na biblioteca de anúncios durante meses. A Meta removeu o conteúdo depois de ser procurada pela WIRED, mas o episódio expõe uma falha menos abstrata que qualquer debate sobre o futuro da IA: a publicidade foi revisada, aprovada e monetizada antes de ser bloqueada.
Como os anúncios de abuso infantil chegaram às plataformas da Meta?
Sim: a Meta publicou anúncios pagos com material sexual de abuso infantil gerado por IA, alcançando usuários em vários países. Os anúncios foram publicados entre novembro do ano passado e o início de agosto, segundo os dados disponíveis na biblioteca de transparência da empresa. Alguns circularam por vários dias; outros foram direcionados apenas a homens. Ao menos uma peça alcançou 2.563 contas na Europa, incluindo França, Alemanha, Irlanda, Itália, Países Baixos, Espanha, Suécia e Reino Unido. A biblioteca não informa o desempenho completo nos Estados Unidos nem em todos os países, portanto o alcance total pode ter sido maior.
Os pesquisadores encontraram anúncios com imagens sexualizadas de menores e textos que promoviam fantasias ou prometiam mostrar mais conteúdo. Algumas peças direcionavam usuários para aplicativos de “despir” pessoas digitalmente, conhecidos como nudify apps. Em certos casos, a imagem de uma criança aparecia na miniatura e o vídeo depois combinava o rosto da menor com cenas sexuais envolvendo adultos. A descrição detalhada desse material não é necessária para entender o problema: eram anúncios explícitos, publicados para vender ou promover serviços associados à exploração sexual.
A descoberta foi feita pelo Tech Transparency Project, grupo independente que já investigava anúncios de aplicativos de nudificação na Meta. Katie Paul, diretora da organização, afirmou à WIRED que as peças não tentavam esconder o que promoviam. Essa observação importa porque não se trata de uma postagem clandestina perdida em uma rede social gigantesca. Eram anúncios comerciais submetidos ao sistema de publicidade da Meta, processados dentro de sua infraestrutura e associados a contas que buscavam comprar distribuição. O dinheiro entrava por uma porta formal, enquanto a moderação falhava diante do conteúdo mais grave possível.
O que a biblioteca de anúncios da Meta revelou?
Os anúncios foram encontrados na biblioteca de anúncios da Meta por pesquisadores do TTP e removidos após contato da WIRED. A ferramenta foi criada para oferecer transparência sobre publicidade nas plataformas da empresa, mas neste caso também funcionou como uma espécie de arquivo forense. Mesmo quando as peças deixaram de ser exibidas ativamente, muitas continuaram listadas por meses, aparentemente sem detecção. O TTP localizou inicialmente cerca de duas dezenas de anúncios; horas antes da publicação da reportagem, encontrou aproximadamente outros 30, incluindo peças que ainda estavam ativas.
A Meta informou que removeu os anúncios por violarem suas políticas contra exploração sexual infantil, nudez e solicitação sexual adulta. A empresa também disse que muitos tinham alcance mínimo e que alguns haviam sido desativados antes do contato da WIRED. Segundo a companhia, seus sistemas retiraram mais de 36 milhões de itens relacionados à exploração sexual infantil no ano passado. A escala impressiona, mas escala não substitui precisão. Um filtro que remove milhões de conteúdos e deixa passar um anúncio explícito ainda tem um problema de desenho, não apenas um problema estatístico.
As regras da Meta determinam que os anúncios sejam revisados antes da publicação, principalmente por ferramentas automatizadas. Elas proíbem material de abuso infantil, imagens de nudez, atividade sexual e posições sexualmente sugestivas. O caso, portanto, não revela uma zona cinzenta criada por uma legenda ambígua ou uma montagem difícil de classificar. Revela a distância entre a política escrita e a decisão operacional. A plataforma sabia o que não aceitava; o sistema encarregado de impedir a veiculação não aplicou essa regra de maneira confiável.
Por que os sistemas de moderação não impediram a veiculação?
Os controles falharam porque a revisão automatizada não bloqueou anúncios reincidentes, contas novas e serviços que mudavam rapidamente de domínio. A própria Meta reconheceu que parte do conteúdo passou por sua tecnologia mais recente de detecção de anúncios proibidos. A companhia também sugeriu que alguns anúncios eram anteriores ao lançamento desses sistemas. Isso explica uma camada do problema, mas não resolve a questão principal: vários anúncios foram publicados depois de a empresa ser alertada sobre a categoria de abuso e alguns pareciam idênticos a peças já removidas.
Katie Paul afirmou que o conjunto incluía anúncios que a Meta havia retirado anteriormente por violar suas políticas. Se cópias idênticas ou quase idênticas conseguem voltar ao ar, a plataforma não está apenas enfrentando conteúdo novo. Está falhando em reutilizar sinais que já possui. O mecanismo parece operar como um porteiro que reconhece o visitante, registra sua expulsão e, na manhã seguinte, permite a entrada porque ele trocou de chapéu. Em redes de publicidade, essa reincidência é previsível: contas, domínios e aplicativos podem ser substituídos mais depressa que os processos de revisão.
Alexios Mantzarlis, cofundador da publicação Indicator e ex-profissional de segurança do Google, disse ter encontrado e denunciado mais de 25 mil anúncios de ferramentas de nudificação nas plataformas da Meta nos últimos anos. A empresa afirmou anteriormente ter removido mais de 344 mil anúncios desse tipo e adotado medidas legais contra uma companhia de Hong Kong ligada a uma rede de serviços. Os números mostram atividade de fiscalização, mas também a persistência do mercado. Quando os anúncios continuam reaparecendo, a remoção deixa de ser solução final e vira custo operacional incorporado ao negócio.
Que responsabilidade cabe à Meta e aos aplicativos promovidos?
Esse caso expõe uma falha de governança: plataformas lucram com publicidade enquanto mecanismos de segurança não acompanham redes bem adaptáveis. Muitos anúncios foram publicados por contas com poucos ou nenhum seguidor. Quando os anunciantes eram identificados, alguns apareciam ligados a empresas chinesas. Uma delas, Meet Social, foi apontada pelos pesquisadores em relação a um anúncio e já atuou como revendedora de publicidade da Meta na China, onde as redes da empresa são bloqueadas. A companhia não respondeu ao pedido de comentário da WIRED.
Várias peças direcionavam para o MaskAI, aplicativo associado a um desenvolvedor chinês e encontrado na App Store da Apple. Em uma análise feita pela WIRED, o aplicativo não mostrava nudez antes do download, mas depois oferecia pornografia gerada por IA e recursos para inserir rostos em situações sexuais. Após ser procurada, a Apple removeu o aplicativo por violar suas regras contra ferramentas de nudificação. Esse detalhe amplia o mapa da responsabilidade: a Meta distribuiu a publicidade, a Apple hospedou o aplicativo e os operadores exploraram as brechas entre uma camada e outra.
Organizações de segurança digital descrevem os aplicativos de nudificação como um problema adversarial porque seus operadores mudam contas, domínios e técnicas com rapidez. A Tech Coalition disse que a Meta compartilhou milhares de URLs violadoras com o serviço Lantern, que permite a troca de informações entre empresas. A Revenge Porn Helpline também classificou o ecossistema como especialmente difícil de conter. Ainda assim, dificuldade técnica não pode virar salvo-conduto comercial. Quando a plataforma identifica padrões, remove anúncios e processa alguns operadores, precisa transformar esse conhecimento em barreiras permanentes, não apenas em comunicados depois da descoberta.
A investigação do TTP foi encaminhada imediatamente à CyberTipline do National Center for Missing and Exploited Children, canal usado para denúncias de abuso sexual infantil online. A entidade não comentou os relatórios recebidos. Em julho, uma investigação da BBC também encontrou no Instagram anúncios que promoviam a venda de material aparentemente relacionado a abuso infantil na Índia e levavam usuários a canais do Telegram. A Meta respondeu, então, que adota tolerância zero. A frase é clara. O desempenho observado nos anúncios é que permanece incompatível com ela.
O episódio não prova que toda imagem gerada por IA seja indistinguível de uma fotografia, nem que sistemas automatizados sejam inúteis. Prova algo mais simples e mais incômodo: uma empresa que controla a distribuição precisa auditar seu funil de anúncios como quem audita pagamentos, não tratar a moderação como verniz institucional. A biblioteca de transparência ajudou a revelar o problema, mas não impediu sua ocorrência. Enquanto contas descartáveis e aplicativos reformulados puderem comprar alcance, a exploração sexual continuará encontrando uma passagem entre políticas rigorosas no papel e execução frouxa na prática.
