Uma pesquisa divulgada pela ONG Safernet nesta terça-feira (06/02/2024) revelou que a Inteligência Artificial (IA) tem sido cada vez mais empregada para impulsionar a disseminação de imagens de exploração e abuso sexual na internet. Com a capacidade de gerar conteúdo ultrarrealista a partir de imagens existentes, a tecnologia está levantando preocupações sobre a manipulação e disseminação de informações falsas, além de abrir novas frentes para crimes sexuais.

Segundo Thiago Tavares, fundador da SaferNet Brasil, a proliferação de aplicativos de IA generativa permite que criminosos transformem fotos de pessoas vestidas em imagens de nudez sintética. Esse tema foi discutido no Dia da Internet Segura, evento realizado em São Paulo, onde especialistas alertaram para uma nova tendência de crimes sexuais impulsionados por IA.

O diretor executivo da WeProtect Global Alliance, Iain Drennan, destacou que os grupos mais vulneráveis a essas exposições sexuais na internet incluem crianças com deficiência e membros da comunidade LGBT. A preocupação com a disseminação desses conteúdos levou à aprovação de legislação em países como o Brasil, que criminalizou a criação e divulgação de imagens de nudez geradas por IA.

Além das medidas legislativas, empresas de tecnologia como a Meta estão adotando ações para identificar e rotular conteúdos gerados por IA em suas plataformas. O presidente de assuntos globais da Meta, Nick Clegg, anunciou que a empresa está desenvolvendo ferramentas para marcar imagens sintéticas em suas redes sociais Facebook, Instagram e Threads.

A pesquisa da SaferNet também revelou um recorde no número de denúncias de imagens de abuso sexual infantil na internet em 2023, totalizando 71.867 queixas no ano passado. Os principais motivos desse aumento incluem o uso crescente da IA na criação desse tipo de conteúdo, além de demissões em massa nas grandes empresas de tecnologia e a proliferação da venda de imagens autogeradas por adolescentes.

Diante desse cenário, a SaferNet reforça a importância da denúncia desses crimes, disponibilizando a Central de Denúncias para relatos de abuso e exploração sexual na internet, e incentiva o acionamento do Disque 100 para casos de violência sexual infantil.

*Com informações da Agência Brasil.