IA vira "carro sem freio" e gigante pede pausa mundial; dá para acreditar?

*A startup afirmou que, se sistemas conseguirem "construir seus próprios sucessores", fica muito mais importante reforçar segurança, monitoramento e formas de moldar o comportamento dessas IAs.

*A Anthropic disse que uma pausa só faria sentido se envolvesse "múltiplos laboratórios bem financiados" na fronteira da tecnologia, com regras claras sobre quando parar, quando retomar e quem fiscaliza.

*A empresa argumentou que uma desaceleração isolada de um único laboratório mudaria apenas "quem está na frente" na corrida, sem criar o debate mais amplo que ela diz estar faltando.

*Em entrevistas, o cofundador Jack Clark comparou a situação a um "carro com acelerador, mas sem freio", e defendeu que governos criem políticas para manter pessoas no controle de sistemas cada vez mais poderosos.

*A discussão acontece enquanto a Anthropic se prepara para abrir capital nos EUA e após ter sido avaliada por investidores privados em cerca de US$ 965 bilhões.

IAgora?

Parece filme repetido: a Anthropic é a mesma empresa que gerou manchetes há dois meses com o Mythos - uma suposta IA "tão poderosa" que não foi disponibilizada ao público por receios do que ela é capaz de fazer. Agora, pede pausa no desenvolvimento global de IAs por, também, um suposto receio dos próximos capítulos da tecnologia.

Como a história do pastor que gritava "lobo", a Anthropic grita "perigo" para a inteligência artificial. Ao mesmo tempo em que se aproveita de um medo genuíno - e real - de toda a população sobre o futuro da humanidade, se vende como a empresa "boazinha" que está tentando evitar o "apocalipse das IAs".

No entanto, a ação é contrária ao discurso: a empresa continua lançando produtos a cada dia e segue uma das líderes do mercado de programação com sucesso estrondoso no mundo corporativo - com OpenAI, Google e até Meta batalhando para diminuírem o domínio da empresa no mercado, o que faz o timing do pedido de "pausa" ser ainda mais peculiar.

Quando a Anthropic gritar "perigo" e o perigo for de fato real vamos todos acreditar ou ignorar assim como na história do pastor e o lobo?

O que o mundo está dizendo sobre isso

Embora a Anthropic há muito se apresente como mais preocupada com segurança do que outros grandes laboratórios de IA, o timing - pouco antes do que pode ser um dos maiores IPOs de tecnologia da história - faz alguns observadores questionarem se isso também é uma forma de criar hype antes da estreia pública da empresa.
Fortune

Eles querem as duas coisas. Eles não querem de fato uma pausa - pelo menos por enquanto. Em vez disso, querem correr adiante, insinuando 'atores menos cautelosos' como justificativa.
Gary Marcus, pesquisador de IA e professor emérito da New York University

No fim do dia, esta é uma empresa que está tentando abrir capital e está tentando ganhar dinheiro. Então você tem que pesar isso quando estiver tentando ler as entrelinhas desses anúncios.
Ashley Gould (repórter do Axios), em entrevista à NBC

Sinais de que você pode estar tentando fazer seu laboratório de IA de fronteira ser nacionalizado: você compara a IA a armas nucleares, ameaça metade dos empregos de escritório, avisa que o autoaperfeiçoamento recursivo pode acabar com a humanidade e depois corre adiante mesmo assim.
David Sacks, ex-czar da Casa Branca para cripto e IA