Deepfakes Sexuais: Paolla Oliveira e Vítimas Relatam Violência da Inteligência Artificial

A inteligência artificial tem sido usada de forma criminosa para criar deepfakes sexuais que atingem principalmente mulheres e meninas. No Fantástico, a atriz Paolla Oliveira expõe a enxurrada diária de imagens manipuladas que usam o próprio rosto e ouve relatos de vítimas dessa violência.

"Quando começou essa coisa de inteligência artificial, você não sabia muito pra onde ia. Aí comecei a ver que não tem mais parada. Eu tive situações muito expostas, vexatórias mesmo, de cunho sexual", relata a atriz.

A atriz conversou com outras vítimas de deepfakes sexuais. Uma delas teve imagens manipuladas circulando em um site de conteúdo adulto após ser alvo de chantagem.

"Infelizmente aconteceu comigo. Fui chantageada, mas denunciei. Porém, fiquei traumatizada e com medo. Usaram minhas fotos, manipularam com inteligência artificial, colocaram partes íntimas de outra mulher", conta Débora.

Ela reuniu provas, como nome do site, do perfil e capturas de tela do conteúdo, e procurou a polícia.

"Eu cheguei, infelizmente, a pensar: meu Deus, será que é culpa minha? Eu postei uma foto de biquíni, não deveria ter feito isso? Aí depois eu falei: gente, eu não fiz nada de errado".

A vítima conta que recebeu acolhimento da família durante o processo: "Foi o que mais me deu força".

Casos de deepfakes sexuais também já chegaram no ambiente escolar. Um levantamento da SaferNet identificou 222 meninas vítimas de deepfakes sexuais em escolas brasileiras em apenas seis meses.

Só em São Paulo, foram 65 casos. Em uma escola do estado, oito adolescentes foram vítimas de montagens pornográficas com seus rostos, produzidas por um colega de classe.

“A gente já tinha essa percepção de ser alguém da escola e próximo, porque todas as fotos que pegaram eram de contas privadas", conta uma das estudantes.

As alunas acionaram a coordenação da escola e os pais, que levaram os casos para a polícia a partir de dados fornecidos pelo Telegram, aplicativo de mensagens em que as imagens foram compartilhadas.

"No mundo digital, tudo é rastreável. Na nossa investigação, o adolescente respondeu por um ato infracional que entrou na medida socioeducativa" , explica o delegado Cristiano, responsável pelo caso.

Ele orienta que vítimas registrem boletim de ocorrência em qualquer delegacia e, quando se tratar de menores de idade, procurem também os pais e a direção da escola.

Para Mariana Valente, diretora e professora do InternetLab, os casos que já foram revelados representam apenas uma parcela do número real de casos.

"Dá pra dizer com bastante certeza que os casos que a gente conhece são a ponta do iceberg. As adolescentes às vezes tem vergonha de contar para os pais, para os pais".

Ela explica que deepfake é um conteúdo gerado por ferramentas de inteligência artificial para reproduzir a imagem de uma pessoa.

"A grandíssima maioria das imagens e vídeos que a gente chama de deepfakes são deepfakes sexuais de mulheres".

O laboratório NetLab, da UFRJ, identificou um mercado estruturado em torno desse tipo de conteúdo com imagens de Paolla Oliveira. Durante o monitoramento, pesquisadores encontraram 198 anúncios diferentes circulando em plataformas da Meta, dona do Facebook, Instagram, WhatsApp e Threads.

"Praticamente todos os dias tinham anúncios sendo distribuídos nas plataformas da Meta, Instagram e Facebook, com imagens falsificadas da Paolla", afirma a diretora do laboratório, Marie Santini.

Segundo Santini, 191 anúncios levavam usuários para o Telegram, onde um robô simulava conversar com a atriz para vender conteúdo pornográfico falso.

"Esses criadores fizeram conteúdos falsos para monetizar. E, no meio do caminho, a Meta também ganha dinheiro porque recebeu do criador de conteúdo para distribuir e entregar esses anúncios".

Em nota, a Meta afirma que suas políticas proíbem conteúdos e anúncios que facilitem fraudes ou promovam material sexualmente explícito e diz remover esse tipo de publicação quando detectado.

O Telegram informou que proíbe conteúdo íntimo não consensual, incluindo deepfakes, e que colabora com investigações policiais fornecendo números de telefone e endereços IP de criminosos.