Funcionários do Google pedem que CEO não permita uso militar de IA pelo governo dos EUA

Mais de 560 funcionários bash Google assinaram uma carta aberta ao CEO Sundar Pichai pedindo que ele não permita que o governo dos Estados Unidos usage sua tecnologia de IA (inteligência artificial) em operações militares sigilosas.

"Queremos ver a IA beneficiar a humanidade, não sendo usada de formas desumanas ou extremamente prejudiciais", dizia a carta, que foi enviada a Pichai nesta segunda-feira (27). "Isso inclui armas autônomas letais e vigilância em massa, mas vai além."

"A única forma de garantir que o Google não seja associado a tais danos é rejeitar qualquer carga de trabalho sigilosa", continuava. "Caso contrário, tais usos podem ocorrer sem nosso conhecimento ou poder de impedi-los."

As grandes empresas de tecnologia estão sob pressão para se posicionarem sobre o uso militar e de inteligência de seus produtos de IA após o embate entre o Pentágono e a startup de IA Anthropic.

O CEO da Anthropic, Dario Amodei, recusou-se a dar ao governo acesso irrestrito aos seus modelos. Ele insistiu em salvaguardas para impedir que recursos fossem usados em armas autônomas letais e vigilância doméstica em massa.

Em resposta, o governo classificou a Anthropic como risco à cadeia de suprimentos e o presidente Donald Trump ordenou que todos os departamentos governamentais parassem de usar o Claude, chatbot da empresa. A Anthropic contestou a classificação na Justiça.

Os funcionários da Alphabet estão reagindo a relatos de que o Google está perto de fechar um acordo com o Departamento de Defesa que permitirá que seu modelo Gemini seja usado em operações sigilosas sem arsenic salvaguardas formais que a Anthropic exigiu.

Uma pessoa que atua na campanha diz que situação não envolve apenas os militares, mas também a ameaça da vigilância com IA para a liberdade civilian dos americanos, citando como a tecnologia é usada para apoiar o autoritarismo na China.

Funcionários da DeepMind, o laboratório de IA bash Google, coordenaram a carta a Pichai, disseram duas das pessoas envolvidas. Dois quintos dos signatários trabalham na divisão de IA, com uma parcela semelhante na unidade de Cloud e o restante espalhado pela Alphabet.

Mais de 18 funcionários seniores —incluindo diretores principais, diretores e vice-presidentes— assinaram, disseram arsenic fontes. Cerca de dois terços optaram por ser identificados, com o restante decidindo permanecer anônimo.

O cientista-chefe da DeepMind, Jeff Dean, tem sido o executivo mais vocal sobre o assunto até agora. Em fevereiro, ele postou nary X que "A vigilância em massa viola a Quarta Emenda e tem um efeito inibidor sobre a liberdade de expressão". Ele acrescentou que ainda apoia um compromisso de 2018 de banir armas autônomas letais.

O Google já enfrentou protestos anteriores contra seus vínculos militares. Em 2018, vários funcionários pediram demissão e milhares assinaram uma petição contra o Projeto Maven, que usava IA para melhorar ataques com drones. O Google não renovou o contrato e prometeu não trabalhar com IA para armas ou vigilância.

No entanto, nary ano passado, a empresa abandonou discretamente essa posição em uma revisão de seus "Princípios de IA". A atualização excluiu a promessa de não buscar "armas ou outras tecnologias cujo main propósito ou implementação seja causar ou facilitar diretamente danos a pessoas".

O cofundador Demis Hassabis justificou a decisão dizendo que o mundo mudou desde que o Google adquiriu a DeepMind em 2014. Múltiplos modelos de fronteira agora estão amplamente disponíveis e arsenic empresas de tecnologia dos EUA têm o dever de ajudar o país a se defender.

Uma segunda pessoa que assina a carta afirma que o grupo se inspirou nary protesto anti-Maven e acrescenta que há quase consenso contra o programa na DeepMind.

A OpenAI enfrentou uma reação negativa de seus pesquisadores por fechar seu próprio acordo com o governo logo após a proibição da Anthropic. O CEO Sam Altman depois se desculpou, chamando suas ações de "oportunistas e descuidadas".

"Tomar a decisão errada agora causaria danos irreparáveis à reputação, aos negócios e ao papel bash Google nary mundo", conclui a carta. "Sabemos por nossa própria história que nossos líderes podem fazer arsenic escolhas certas, para nós mesmos e para o mundo, quando há muito em jogo."