Sistemas de inteligência artificial (IA) foram usados para criar milhares de imagens de abuso sexual infantil. É o que revelou a Internet Watch Foundation (IWF), num relatório publicado na quarta-feira (25). A organização também alertou para o risco da tecnologia “sobrecarregar” a internet.
Para quem tem pressa:
A IWF informou que identificou e removeu quase três mil imagens de abuso sexual infantil geradas por IA só no Reino Unido. Além disso, a organização descobriu sete sites com imagens de abuso sexual infantil geradas por IA acessíveis na internet aberta.
Os nossos piores pesadelos estão se tornando realidade. O assustador é estarmos vendo criminosos treinando deliberadamente a IA em imagens de vítimas reais. As crianças que foram violadas no passado estão agora sendo incorporadas em novos cenários porque alguém, em algum lugar, quer ver isto.
Susie Hargreaves, executiva-chefe da IWF, ao The Guardian
IA e abuso infantil
Os pedófilos têm usado a IA para alterar e reproduzir imagens de vítimas reais que sofreram violações. Além disso, usam a tecnologia para “despir” crianças – apagar suas roupas – que aparecem em fotos comuns para contextualizá-las em cenários de abuso.
No relatório divulgado nesta semana, a IWF mostrou os resultados da investigação de 11.108 imagens geradas por IA compartilhadas num fórum de abuso infantil na dark web.
Destas, a organização reporta 2.978 imagens de abuso geradas por inteligência artificial. E, segundo Susie, 2.562 “eram tão realistas que a lei britânica as trata da mesma forma como se fossem imagens reais de abuso”.
Ainda segundo o relatório, metade dessas imagens representava crianças com idades entre os seis e os dez anos. O documento também apontou que 143 imagens retratavam crianças de três a seis anos, enquanto duas imagens retratavam bebês (menores de dois anos).
Mais de 560 imagens foram classificadas como Categoria A – o tipo de imagem mais grave – incluindo violação, tortura sexual e brutalidade.
O relatório do IWF também alerta para o comércio crescente de imagens de abuso sexual geradas por IA, acrescentando que meninas são as mais visadas – elas aparecem em 99% das imagens.
Crescimento de denúncias
As denúncias de imagens de abuso e de exploração sexual infantil na internet cresceram 84% entre janeiro e setembro de 2023, em comparação ao mesmo período em 2022. As informações são da organização não governamental Safernet, que atua na promoção dos direitos humanos na internet desde 2005.
No período analisado, a Safernet recebeu 54.840 novas denúncias de conteúdos com imagens de crianças abusadas sexualmente. Em 2022, foram 29.809 novas denúncias. O presidente da Safernet Brasil, Thiago Tavares, disse, em entrevista à Agência Brasil, que esses dados são referentes a “novos conteúdos ou novas páginas”, que nunca tinham sido denunciadas antes.
Tavares acrescenta:
Isso chama a atenção para o fato de que novos conteúdos e novas imagens estão sendo produzidas e estão sendo disponibilizadas na internet e colocando mais crianças em risco não só para acessar conteúdo dessa natureza mas também de serem vítimas de situações de assédio e de abuso.
Para o presidente da Safernet Brasil, parte desse aumento se deve a um novo fenômeno que tem preocupado muito a organização: a venda de packs (pacotes de imagens). “São imagens autogeradas por adolescentes e vendidas na forma de pacotes em aplicativos de troca de mensagens, em aplicativos como o Discord e Telegram”, explica.
Além disso, a Polícia Federal divulgou dados relacionados a operações que envolvem crimes cibernéticos com crianças e adolescentes como vítimas. Só em 2023, foram realizadas 627 operações dessa natureza – um aumento de quase 70% em comparação a 2022.
Fonte: Olhar Digital
Comentários