Restrições contratuais à IA podem ameaçar missões militares, diz autoridade dos EUA

Os comentários foram feitos na American Dynamism Summit, em ‌Washington, um encontro de empresas de tecnologia ‌interessadas em ​trabalhos relacionados ao espaço e à segurança nacional. A cúpula ocorreu poucos dias após um desacordo sobre como o Pentágono poderia usar as poderosas e amplamente utilizadas ferramentas ‌de IA da Anthropic, levando o presidente Donald Trump a proibir a startup de fazer negócios com o governo norte-americano e classificá-la como um risco à segurança nacional.

“Eu tive um momento de ‘nossa, que surpresa’”, disse Michael na American Dynamism Summit em Washington. “Há coisas... você não pode planejar uma operação... se isso puder levar a impactos cinéticos” ou explosões. Ele descreveu dezenas de restrições incorporadas aos acordos que cobrem comandos responsáveis por operações ‌aéreas sobre Irã, China e América do Sul.

Michael disse que os contratos foram estruturados de forma que se um operador violar os termos de serviço, ​o modelo de IA pode, teoricamente, “simplesmente parar no meio de uma operação”. O Claude, da Anthropic, é o único modelo ‌de IA disponível para o Departamento de Defesa dos EUA em seus sistemas confidenciais na época em que Michael conduziu a análise.

Suas preocupações se intensificaram depois ‌que um executivo sênior de uma ‌empresa de IA não identificada levantou questões sobre se seu software havia sido usado no que Michael chamou de ⁠uma das operações militares mais bem-sucedidas da história recente. Claude, da Anthropic, teria sido usado para ajudar a planejar a operação do governo dos EUA que capturou o ex-presidente venezuelano Nicolás Maduro em janeiro.

“O que não vamos fazer é permitir que qualquer empresa ​dite um novo conjunto ​de políticas além do que o Congresso aprovou”, disse Michael.

As revelações podem ajudar a explicar a disputa entre a Anthropic e o Departamento de Defesa dos EUA. O secretário de Defesa, Pete Hegseth, declarou a empresa um “risco para a cadeia de suprimentos” por se recusar a ceder nas negociações sobre restrições a armas autônomas e vigilância em massa.