Guterres ressaltou o potencial transformador da IA para o bem, principalmente para as economias em desenvolvimento, que poderiam avançar tecnologicamente e levar serviços diretamente às pessoas que mais precisam. No entanto, também é preciso estar atento aos riscos, como a disseminação de desinformação, estabelecimento de preconceitos e discriminação, além de questões relacionadas à vigilância, invasão de privacidade e fraudes.
O secretário-geral afirmou que a IA pode minar a confiança nas instituições, enfraquecer a coesão social e até mesmo ameaçar a democracia. Além disso, existe o perigo de a IA agravar as desigualdades mundiais e aumentar as lacunas digitais entre os países.
Guterres exemplificou os perigos e as possibilidades incríveis da IA ao relatar uma experiência surrealista que teve ao se ouvir falando chinês perfeitamente, mesmo sem conhecer uma única palavra desse idioma. Isso demonstra o quão poderosa e potencialmente perigosa a IA pode ser.
O secretário-geral destacou a importância de utilizar as tecnologias de IA de forma responsável e acessível a todos. Ele já havia pedido aos países-membros da ONU a criação de barreiras de segurança para controlar essas novas tecnologias, assim como é feito em setores como a energia nuclear.
O grupo consultivo será composto por especialistas de diversas áreas, como administração pública, setor privado, comunidade tecnológica, sociedade civil e mundo acadêmico, de diferentes faixas etárias. Sua função será estudar como vincular as iniciativas de controle de IA que já estão em andamento e formular recomendações para a governança internacional da IA, com o objetivo de acelerar a implementação dos Objetivos de Desenvolvimento Sustentável.
As recomendações serão a base para a Cúpula do Futuro, marcada para setembro de 2024, e para as negociações em torno da proposta de um Pacto Mundial Digital. O objetivo final é garantir que a IA seja utilizada de forma responsável, segura e inclusiva, para o benefício de toda a humanidade.
