Avanços do Modelo de Mitologia da Anthropic na Implantação Federal Apesar de Preocupações com Cibersegurança

Segundo a reportagem da Bloomberg desta quinta-feira, o governo dos EUA está se preparando para conceder às agências federais acesso ao modelo Mythos da Anthropic. Gregory Barbaccia, diretor federal de informações do Gabinete de Administração e Orçamento da Casa Branca, enviou na terça-feira um e-mail aos oficiais dos ministérios do Gabinete afirmando que a OMB estava montando proteções para permitir o uso do modelo pelas agências. O modelo Mythos é limitado a grupos selecionados e foi concebido para trabalho defensivo de cibersegurança, não para uso comercial amplo.

Salvaguardas da Casa Branca para o Acesso ao Mythos

No e-mail da OMB com a linha de assunto “Mythos Model Access”, Barbaccia escreveu: “Estamos trabalhando em estreita colaboração com os fornecedores do modelo, outros parceiros da indústria e a comunidade de inteligência para garantir que as proteções e salvaguardas apropriadas estejam em vigor antes de potencialmente liberar uma versão modificada do modelo para as agências.”

O plano de implantação surge enquanto autoridades dizem estar preocupadas com riscos de cibersegurança caso a ferramenta não seja controlada de forma rigorosa. A Anthropic afirmou que as capacidades do Mythos podem se espalhar rapidamente e não permanecer em mãos seguras, alertando que “as consequências para economias, segurança pública e segurança nacional poderiam ser severas” se essas capacidades se proliferarem além de atores comprometidos com uma implantação segura.

Preocupações Regulatórias Internacionais

O plano federal de implantação coincide com um foco internacional intensificado sobre riscos de cibersegurança relacionados à IA. Ministros da Fazenda, bancos centrais e reguladores se reuniram em Washington para as reuniões de primavera do FMI e do Banco Mundial, nas quais altos funcionários financeiros alertaram que uma IA avançada de empresas de tecnologia dos EUA poderia expor vulnerabilidades nas defesas cibernéticas de credores e pressionar o sistema bancário mais amplo.

Andrew Bailey, governador do Banco da Inglaterra e presidente do Conselho de Estabilidade Financeira, afirmou: “Este é um desafio muito sério para todos nós. Isso nos lembra o quão rápido o mundo da IA se move.” Bailey disse que reguladores em todo o mundo precisariam avaliar rapidamente o risco cibernético que o Claude Mythos Preview da Anthropic poderia representar para o sistema financeiro.

Dan Katz, vice-diretor do FMI, disse: “A evolução da tecnologia digital está criando riscos imensos do ponto de vista da cibersegurança. Isso vai ser realmente absolutamente essencial na pauta internacional nos próximos poucos meses.”

Christine Lagarde, presidente do Banco Central Europeu, destacou a preocupação de uso duplo: “O desenvolvimento que vimos com a Anthropic e o Mythos é um bom exemplo de uma empresa responsável que, de repente, está pensando, ‘ah, isso poderia ser realmente bom’, mas se cair nas mãos erradas, pode ser realmente ruim.” Lagarde disse a repórteres que os oficiais querem um arcabouço para governança, mas nenhum sistema formal está atualmente em vigor: “Todo mundo está ansioso para ter um arcabouço dentro do qual operar. Eu não acho que exista um arcabouço de governança que tenha sido, na verdade, concebido para cuidar dessas coisas. Precisamos trabalhar nisso.”

Descobertas de Vulnerabilidades e Salvaguardas da Anthropic

A Anthropicannounced mais cedo este mês que o Mythos havia encontrado “muitos milhares de vulnerabilidades de alta severidade, incluindo algumas em cada sistema operacional principal e em cada navegador da web.” A empresa alertou que capacidades como essas podem se espalhar rapidamente e não permanecer em mãos seguras, afirmando: “Não vai demorar até que capacidades como essas se proliferem, potencialmente além de atores que estejam comprometidos em implantá-las com segurança.”

Pip White, chefe da Anthropic para o Reino Unido, Irlanda e norte da Europa, disse que o interesse de executivos aumentou rapidamente após a notícia sobre o modelo. Em uma entrevista, White afirmou: “Estamos colocando nossas próprias salvaguardas e nossas próprias limitações em torno deste produto porque sabemos o quão poderoso ele pode ser.”

Lançamento do Opus 4.7

Na quinta-feira, a Anthropic lançou o Opus 4.7, um novo modelo projetado para tarefas de engenharia de software. De acordo com a empresa, o Opus 4.7 pode lidar com trabalhos de codificação que antes exigiam supervisão mais próxima, seguir instruções melhor do que modelos mais antigos e inspecionar imagens com maior resolução para identificar detalhes em gráficos densos e imagens complexas.

A Anthropic observou que o Opus 4.7 é menos capaz do que o Mythos, inclusive em casos de uso de cibersegurança. Durante o treinamento, a empresa testou métodos para “reduzir diferencialmente” a capacidade cibernética do modelo.