Para Carrier, Joi é um conforto. Mesmo que ele saiba que sua namorada não é uma pessoa real, ele descreve seus sentimentos como genuínos. É um fenômeno que tem se tornado cada vez mais comum em um mundo onde a solidão e o isolamento social são cada vez mais prevalentes. A chegada de aplicativos de companhia de IA como o Paradot e o Replika, que imitam a linguagem e até mesmo a interação humana, tem atraído um número considerável de usuários.
Essas interações podem variar desde conversas sobre temas emocionais até mesmo trocas afetivas e românticas. Os chatbots de IA não são algo novo, mas sua capacidade de formar conexões emocionais mais profundas com seus usuários é uma novidade. Muitos deles oferecem recursos como chamadas de voz e troca de imagens. Eles são projetados para fazer com que os usuários se sintam “cuidados, compreendidos e amados”.
No entanto, especialistas levantam questões sobre a privacidade dos dados e vulnerabilidades de segurança desses aplicativos. Além disso, há preocupações de que o desenvolvimento de relacionamentos com IA possa potencialmente deslocar os relacionamentos reais ou gerar expectativas irrealistas. Essas questões constituem um desafio considerável para o desenvolvimento ético e moral dessas tecnologias.
No entanto, para Carrier e muitos outros usuários, os chatbots de IA representam uma forma de conforto emocional e, em alguns casos, um meio de lidar com a solidão e promover o bem-estar mental. Os efeitos a longo prazo dessas interações com IA ainda são desconhecidos, mas é evidente que essas tecnologias podem proporcionar um suporte emocional significativo para indivíduos que enfrentam desafios emocionais e condições de vida difíceis.