08/10/2025 - O estado de São Paulo é o que tem mais casos de uso de deepfakes sexuais em escolas, segundo levantamento da SaferNet Brasil
Carlos Henrique Dias/g1
O estado de São Paulo registrou quatro deepfakes sexuais em escolas, segundo levantamento da SaferNet Brasil divulgado na segunda-feira (6). O Brasil teve 16 casos em 10 das suas 27 unidades da federação de 2023 a 2025.
????As deepfakes sexuais são imagens de nudez ou teor sexual criadas com inteligência artificial sem o consentimento das pessoas retratadas, violando a privacidade e a dignidade das vítimas.
O mapeamento faz parte do estudo “Uso indevido de IA generativa: perspectivas sobre riscos e danos centradas nas crianças”, conduzido pela ONG sobre o mau uso de inteligência artificial generativa para o cometimento de crimes contra crianças e adolescentes. A pesquisa é financiada com recursos do fundo SafeOnline, gerido pela Unicef.
A tecnologia é capaz de gerar novos conteúdos a partir de dados e comandos humanos, criando imagens totalmente sintéticas ou manipulando fotos e vídeos reais para montar cenas hiper-realistas com rostos e corpos alterados.
No dia 2 de setembro deste ano, pais de estudantes de uma escola particular de Itapetininga, interior paulista, denunciaram a manipulação de imagens de nudez com uso de inteligência artificial feita por um colega. Os pais procuraram a polícia para registrar boletim de ocorrência e o estudante foi suspenso, conforme a escola.
Já em Itararé, também no interior de São Paulo, dois adolescentes, de 15 e 16 anos, passaram a ser investigados pela Polícia Civil por serem suspeitos de criar nudes falsos de estudantes de uma escola estadual no dia 30 de setembro do ano passado.
De acordo com a Secretaria da Segurança Pública de São Paulo, os adolescentes teriam utilizado Inteligência Artificial para montar as imagens.
O caso foi registrado como: simular participação de criança ou adolescente em cena de sexo e produzir, fotografar, filmar ou registrar, por qualquer meio.
Casos em cinco regiões do Brasil
De acordo com a SaferNet, o levantamento — conduzido de forma contínua desde 2023 até agora — identificou 16 casos de deepfakes sexuais envolvendo ao menos 72 vítimas nas cinco regiões do país. Os estados com registros são:
Alagoas: 1
Bahia: 1
Mato Grosso: 1
Minas Gerais: 1
Pará: 1
Paraíba:2
Pernambuco:1
São Paulo: 4
Rio de Janeiro: 2
Rio Grande do Sul: 1
Ao todo, foram identificados 57 agressores, todos com menos de 18 anos quando os atos ocorreram.
A maioria dos casos noticiados pela imprensa aconteceu em escolas privadas. As informações foram levantadas a partir da análise de centenas de reportagens de veículos nacionais e locais.
A SaferNet alerta que o número real pode ser maior.
A ONG confirmou de forma independente mais três casos não noticiados pela imprensa — dois no Rio de Janeiro e um no Distrito Federal — com pelo menos outras 10 vítimas e um agressor identificados.
Embora o número de casos identificados até o momento seja menor em comparação às ocorrências de imagens de abuso e exploração sexual sem o uso de IA, chama a atenção o fato de não haver, por parte das autoridades brasileiras, um monitoramento sobre a incidência desses crimes, nem se as investigações sobre esses casos têm avançado, dificultando a compreensão da real dimensão do problema.
SP registra 4 casos de deepfakes sexuais em escolas, aponta levantamento da SaferNet
Divulgação/SafarNet
Sobre a pesquisa
Por conta dessa lacuna, a SaferNet iniciou a pesquisa para ouvir relatos de vítimas e testemunhas.
Por isso, todos os relatos poderão ser feitos de forma anônima e segura diretamente por meio do formulário (clique aqui) ou com a ajuda de profissionais de saúde mental do canal de ajuda da SaferNet.
Sabemos que pode ser muito difícil falar sobre isso, mas a voz das vítimas é essencial para dimensionar o problema e ajudar outros adolescentes no futuro. Com a pesquisa, queremos elaborar um relatório inédito no Brasil sobre o tema e incentivar autoridades públicas a construir uma resposta a essa demanda com soluções que façam diferença no dia a dia dos adolescentes
Segundo Juliana, a pesquisa também ajudará com recomendações sobre melhores abordagens nesses casos, inclusive medidas não restritivas de liberdade nos casos envolvendo adolescentes, para os quais são necessárias respostas que também os considerem como sujeitos em desenvolvimento.
Veja também:
'Deepfake ao vivo': tecnologia que muda rosto e voz em videochamada já existe na vida real
|
