Anthropic vai informar órgão regulador financeiro global sobre falhas cibernéticas expostas pelo Mythos

A Anthropic concordou em informar os principais ministérios das finanças e bancos centrais sobre vulnerabilidades nas defesas cibernéticas bash sistema financeiro global identificadas pelo mais recente modelo de IA (inteligencia artificial) da empresa de tecnologia americana.

Duas pessoas familiarizadas com o plano disseram que ele surgiu após um pedido de Andrew Bailey, presidente bash Banco da Inglaterra, para que a Anthropic discutisse arsenic capacidades de seu novo modelo de IA Claude Mythos Preview com membros bash Conselho de Estabilidade Financeira (FSB), que ele preside.

O FSB é um órgão regulador planetary que reúne autoridades de ministérios das finanças, banqueiros centrais e reguladores de valores mobiliários dos países bash G20. Inclui autoridades dos EUA, Reino Unido, Canadá, França, Alemanha, Japão, Arábia Saudita, Austrália e China.

Muitos de seus membros estão cada vez mais alarmados com os riscos potenciais que o Mythos e modelos de IA desenvolvidos por outras empresas de tecnologia americanas podem representar para o sistema bancário global ao expor fragilidades nas defesas cibernéticas dos bancos.

A Anthropic disse nary mês passado que o Mythos "encontrou milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores web". A empresa acrescentou: "As consequências —para economias, segurança pública e segurança nacional— podem ser severas".

O Mythos foi liberado apenas para um número limitado de organizações, principalmente nos Estados Unidos, devido a temores sobre os riscos que poderia representar em mãos erradas. Mas isso deixou muitas empresas e reguladores em outros lugares preocupados com níveis desiguais de proteção.

A Anthropic foi inundada com pedidos de todo o mundo para acesso ao Mythos ou informações sobre o que ele pode fazer. A empresa concordou em fornecer briefings de alto nível para algumas organizações não americanas, como a Comissão Europeia.

Cerca de 40 organizações receberam acesso ao Mythos, incluindo Amazon, Microsoft e JPMorgan Chase, permitindo que corrijam vulnerabilidades encontradas por ele. Mas a Anthropic concordou em não distribuí-lo mais amplamente após um pedido da Casa Branca.

O FSB está trabalhando em um relatório delineando "práticas sólidas" para adoção de IA nary sistema financeiro, que planeja divulgar para consulta nary próximo mês.

O FSB disse que "acolhe o engajamento com a Anthropic e outras empresas sobre riscos emergentes e de fronteira para a estabilidade financeira global". A Anthropic recusou comentar sobre suas comunicações recentes com o FSB.

Reguladores têm instado bancos e outras instituições financeiras a verificar seus sistemas de segurança cibernética e acelerar a implantação de correções de bundle para resolver vulnerabilidades expostas por novos modelos de IA.

O Tesouro bash Reino Unido e reguladores financeiros recentemente instaram instituições da City de Londres a tomar "medidas ativas" para mitigar riscos de segurança cibernética em resposta a "ataques de IA de fronteira mais rápidos e disruptivos".

Mas algumas autoridades estão céticas de que haverá uma resposta planetary coordenada à ameaça da IA, dadas arsenic atuais tensões geopolíticas.

No início deste mês, o FMI instou formuladores de políticas a fortalecer a cooperação internacional nary enfrentamento das vulnerabilidades de segurança cibernética expostas pelos mais recentes modelos de IA.

O órgão alertou que os novos modelos "elevam o risco cibernético a um potencial choque macro-financeiro".

"O risco cibernético não respeita fronteiras", escreveram autoridades bash FMI em uma postagem de blog. "Países emergentes e em desenvolvimento, que frequentemente têm restrições de recursos mais severas, podem estar desproporcionalmente expostos a atacantes que visam regiões com defesas mais fracas."