Temas relacionados à influência da tecnologia no aumento de crimes de abuso sexual na web foram destaque no evento Dia da Internet Segura, em São Paulo. Durante uma das palestras, o diretor executivo da WeProtect Global Alliance, Iain Drennan, destacou a preocupação com o uso da inteligência artificial para crimes de abuso sexual, apontando a facilidade com que imagens sintéticas são replicadas em larga escala.
Drennan também mencionou a importância da legislação no combate a esse tipo de crime, salientando que é necessário o envolvimento do governo, setor privado, sociedade civil e esforço coletivo de pais e responsáveis pelas crianças.
A propagação de imagens de abuso e exploração sexual infantil também foi destacada, com um recorde de 71.867 denúncias em 2023, segundo a Safernet. O uso crescente de inteligência artificial, demissões em massa nas empresas de tecnologia e a proliferação da venda de imagens autogeradas de adolescentes foram apontados como fatores que impulsionaram esse aumento.
Diante desse cenário, gigantes da tecnologia como a Meta, que controla redes sociais como Facebook, Instagram e Threads, anunciaram medidas de identificação e rotulagem de imagens generadas por inteligência artificial em suas plataformas. O anúncio destaca a necessidade de aumentar a transparência em torno das novas tecnologias.
Além de medidas das empresas, ações conjuntas da sociedade e do governo são indispensáveis para enfrentar essa realidade preocupante. A Safernet destacou também a possibilidade de denunciar casos de exploração e abuso sexual na internet através de sua plataforma online.
Outros meios de denúncia desse tipo de crime, como o Disque 100, mantido pelo governo federal, foram abordados no evento. A questão do empoderamento dos pais e tutores, bem como a necessidade de legislação cada vez mais eficiente no combate à exploração e abuso sexual na web, foram apontadas como caminhos fundamentais para conter essa alarmante realidade.