O estudo identificou 170 fotos de crianças de pelo menos 10 estados brasileiros, retratando momentos como nascimentos de bebês, festas de aniversário e apresentações em escolas. Todas essas imagens foram encontradas em um banco de dados chamado LAION-5B, o qual é utilizado para o treinamento de diversas ferramentas de IA. Apesar de representarem um percentual baixo diante da enorme quantidade de imagens presentes no banco de dados – que passa de 5 bilhões de registros -, a descoberta acende um alerta para a segurança e privacidade desses indivíduos.
A especialista em Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, explicou que a inteligência artificial possibilita a criação de imagens realistas de forma rápida e gratuita, o que coloca em risco a privacidade dessas crianças. Muitas dessas fotos podem servir de base para a produção de deepfakes, que são conteúdos audiovisuais manipulados por IA para gerar vídeos e fotos falsos e enganosos.
A organização destacou que as fotos das crianças brasileiras não estão disponíveis para pesquisa online e foram postadas anos antes da criação do banco de imagens. Este fato evidencia falhas na proteção de dados por parte de grandes empresas e redes sociais. A instituição alemã responsável pelo LAION-5B se comprometeu a remover as fotos pessoais das crianças e ressaltou a importância da responsabilidade dos pais e familiares em proteger a privacidade dos menores.
Maria Mello, coordenadora do Programa Criança e Consumo do Instituto Alana, defendeu a aplicação da legislação para proteção dos usuários no ambiente virtual, enfatizando a importância de garantir o cuidado com crianças e adolescentes, que são os mais afetados por essas práticas.
Diante desse cenário preocupante, é fundamental que medidas mais eficazes sejam adotadas para coibir o uso indevido de imagens e proteger a privacidade das crianças e adolescentes brasileiros. A segurança digital deve ser uma prioridade de empresas e governos, a fim de evitar abusos e violações dos direitos humanos nesse ambiente cada vez mais tecnológico e virtual.