A Anthropic concordou em informar os principais ministérios das finanças e bancos centrais sobre vulnerabilidades nas defesas cibernéticas do sistema financeiro global identificadas pelo mais recente modelo de IA (inteligencia artificial) da empresa de tecnologia americana.
Duas pessoas familiarizadas com o plano disseram que ele surgiu após um pedido de Andrew Bailey, presidente do Banco da Inglaterra, para que a Anthropic discutisse as capacidades de seu novo modelo de IA Claude Mythos Preview com membros do Conselho de Estabilidade Financeira (FSB), que ele preside.
O FSB é um órgão regulador global que reúne autoridades de ministérios das finanças, banqueiros centrais e reguladores de valores mobiliários dos países do G20. Inclui autoridades dos EUA, Reino Unido, Canadá, França, Alemanha, Japão, Arábia Saudita, Austrália e China.
Muitos de seus membros estão cada vez mais alarmados com os riscos potenciais que o Mythos e modelos de IA desenvolvidos por outras empresas de tecnologia americanas podem representar para o sistema bancário global ao expor fragilidades nas defesas cibernéticas dos bancos.
A Anthropic disse no mês passado que o Mythos “encontrou milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores web”. A empresa acrescentou: “As consequências —para economias, segurança pública e segurança nacional— podem ser severas”.
O Mythos foi liberado apenas para um número limitado de organizações, principalmente nos Estados Unidos, devido a temores sobre os riscos que poderia representar em mãos erradas. Mas isso deixou muitas empresas e reguladores em outros lugares preocupados com níveis desiguais de proteção.
A Anthropic foi inundada com pedidos de todo o mundo para acesso ao Mythos ou informações sobre o que ele pode fazer. A empresa concordou em fornecer briefings de alto nível para algumas organizações não americanas, como a Comissão Europeia.
Cerca de 40 organizações receberam acesso ao Mythos, incluindo Amazon, Microsoft e JPMorgan Chase, permitindo que corrijam vulnerabilidades encontradas por ele. Mas a Anthropic concordou em não distribuí-lo mais amplamente após um pedido da Casa Branca.
O FSB está trabalhando em um relatório delineando “práticas sólidas” para adoção de IA no sistema financeiro, que planeja divulgar para consulta no próximo mês.
O FSB disse que “acolhe o engajamento com a Anthropic e outras empresas sobre riscos emergentes e de fronteira para a estabilidade financeira global”. A Anthropic recusou comentar sobre suas comunicações recentes com o FSB.
Reguladores têm instado bancos e outras instituições financeiras a verificar seus sistemas de segurança cibernética e acelerar a implantação de correções de software para resolver vulnerabilidades expostas por novos modelos de IA.
O Tesouro do Reino Unido e reguladores financeiros recentemente instaram instituições da City de Londres a tomar “medidas ativas” para mitigar riscos de segurança cibernética em resposta a “ataques de IA de fronteira mais rápidos e disruptivos”.
Mas algumas autoridades estão céticas de que haverá uma resposta global coordenada à ameaça da IA, dadas as atuais tensões geopolíticas.
No início deste mês, o FMI instou formuladores de políticas a fortalecer a cooperação internacional no enfrentamento das vulnerabilidades de segurança cibernética expostas pelos mais recentes modelos de IA.
O órgão alertou que os novos modelos “elevam o risco cibernético a um potencial choque macro-financeiro”.
“O risco cibernético não respeita fronteiras”, escreveram autoridades do FMI em uma postagem de blog. “Países emergentes e em desenvolvimento, que frequentemente têm restrições de recursos mais severas, podem estar desproporcionalmente expostos a atacantes que visam regiões com defesas mais fracas.”
noticia por : UOL
