Anthropic diz que não dará uso incondicional de sua IA ao Exército americano

Em caso de recusa, o Pentágono disse que a startup enfrentaria uma ordem de cumprimento forçado sob a Lei de Produção de Defesa.

Esta legislação da época da Guerra Fria concede ao governo federal amplos poderes para obrigar a indústria privada a priorizar as necessidades de segurança nacional.

O Pentágono também ameaçou classificar a Anthropic como um risco para a cadeia de suprimentos, uma designação normalmente reservada para empresas de países adversários que poderia prejudicar seriamente a reputação da companhia.

Amodei disse que os modelos de Anthropic foram utilizados pelo Pentágono e as agências de inteligência para defender o país, mas que a companhia estabelece uma linha ética a respeito de seu uso para a vigilância em massa de cidadãos americanos e para armas totalmente autônomas.

"O uso desses sistemas para a vigilância doméstica em massa é incompatível com os valores democráticos", afirmou o executivo.

E acrescentou que os sistemas de IA de vanguarda ainda não são confiáveis o bastante para lhes conceder o controle de armas letais sem que haja um ser humano com o controle final.