As imagens problemáticas vieram à tona após a solicitação de um usuário para reproduzir soldados alemães no ano de 1943, cujo resultado mostrou combatentes negros e asiáticos portando um símbolo semelhante a uma suástica. Esse episódio, somado a outras imagens equivocadas, levou o Google a se pronunciar e se retratar publicamente, reconhecendo as falhas e pedindo desculpas.
Segundo a empresa, a ferramenta Gemini está oferecendo imprecisões em algumas representações históricas de geração de imagem, o que motivou a suspensão do seu funcionamento. O Google afirmou estar trabalhando para corrigir esses erros e melhorar as representações imediatamente, garantindo que o problema seja resolvido o quanto antes.
Além das questões raciais, a inteligência artificial do Google também gerou imagens inadequadas ao ser solicitada para retratar os fundadores dos Estados Unidos, apresentando pessoas de etnias distintas em vez dos homens brancos que compunham o grupo original.
Desenvolvido em parceria com a empresa de inteligência artificial DeepMind, adquirida pelo Google em 2014, o Gemini AI é um modelo de fundação capaz de receber comandos e produzir respostas em diversos formatos. No entanto, a recente suspensão de sua operação evidencia a necessidade de ajustes para garantir a correta representação histórica e racial em suas imagens.
A tecnologia do Gemini AI estava disponível em vários países, incluindo o Brasil, e atendia comandos em inglês. A suspensão de suas atividades se deu um dia após o reconhecimento dos erros pelo Google e ocorreu, por enquanto, apenas em alguns locais, uma vez que a ferramenta ainda não estava em funcionamento em países da Europa.
Neste cenário, a iniciativa do Google em suspender temporariamente o Gemini AI demonstra a importância de abordagens rigorosas para garantir a representação precisa e sensível de contextos históricos e culturais em suas ferramentas de inteligência artificial. A empresa reafirma seu compromisso com a melhoria contínua de suas tecnologias e com a correção rápida dos problemas identificados.
