Durante o Dia da Internet Segura, que ocorreu em São Paulo, o diretor executivo da WeProtect Global Alliance, Iain Drennan, afirmou que a inteligência artificial é uma nova tendência para os casos de abuso sexual em todo o mundo. Ele alertou para a possibilidade de criminosos acessarem a tecnologia de IA disponível ou de realidade estendida para cometer crimes de natureza sexual.
Drennan também destacou que a legislação é fundamental para impedir a proliferação desse tipo de crime na internet. Ele ressaltou a importância do envolvimento do governo, do setor privado e da sociedade civil, além do empoderamento dos pais e tutores das crianças.
No final do ano passado, a Câmara dos Deputados aprovou a criminalização da criação e divulgação de imagens de nudez e conteúdo sexual de uma pessoa utilizando inteligência artificial no Brasil. A proposta está em análise no Senado. Além disso, a gigante norte-americana Meta anunciou que vai identificar qualquer imagem gerada por inteligência artificial que aparecer em suas redes sociais Facebook, Instagram e Threads.
A pesquisa divulgada pela Safernet revelou que houve um recorde de denúncias de imagens de abuso e exploração sexual infantil na internet em 2023, somando 71.867 queixas no ano passado. Três fatores principais contribuíram para o aumento das denúncias: o uso da inteligência artificial para criação desse tipo de conteúdo, demissões em massa realizadas pelas big techs que atingiram as equipes de segurança, integridade e moderação de conteúdo de algumas plataformas, e a proliferação da venda de imagens de nudez e sexo autogeradas por adolescentes.
Diante desse cenário preocupante, a Safernet disponibiliza uma Central de Denúncias para denunciar casos de exploração e abuso sexual na internet. Além disso, o Disque 100, mantido pelo governo federal, também pode ser acionado para relatar casos de violência sexual infantil. A luta contra a exploração e abuso sexual na internet é fundamental para proteger os mais vulneráveis e garantir a segurança de todos os usuários da rede.