Você ainda será manipulado por uma IA que imita pessoas

Mas o Google não fez feio e apresentou o seu Projeto Astra, protótipo de um assistente pessoal que também consegue ler o mundo e manter uma conversa fluida com o usuário. Mas diferente da OpenAI, o Google optou por uma interação mais neutra e com voz mais robótica.

Talvez você deva estar se perguntando por que o Google teve essa decisão de Design sendo que uma voz mais humana e com tons emocionais engajam muito mais.

A explicação pode estar em um artigo publicado semanas antes pela equipe de pesquisa da empresa sobre "A Ética dos Assistentes Avançados de IA". Nele, há um capítulo específico sobre antropomorfização, que é o fenômenos de atribuir características humanas a entidades não-humanas.

As experiências antropomórficas muitas vezes emergem de maneira inconsciente quando uma entidade não-humana apresenta características suficientemente humanas para gerar uma sensação de familiaridade. Isso faz com que as pessoas passem a interagir com essas entidades como se fossem uma pessoa, projetando comportamentos e emoções típicos dos humanos.

Esse é um fenômeno que não fica restrito ao universo da tecnologia. Durante a história da humanidade, atribuímos características humanas a animais, objetos inanimados, personagens e até mesmo a marcas comerciais. O lance é que, com o avanço das tecnologias digitais, existem muitos sinais que facilitam esse processo de antropomorfização, como o tipo de discurso construído e o tom de voz.

No artigo, os pesquisadores do Google levantam diversos desafios de confiança e apego emocional que são induzidos pelo antropomorfismo: preocupações de privacidade, dependência excessiva, violação de expectativa, entre outros. Um desafio que especialmente me chamou a atenção é o de manipulação e coerção.