Desligamento da IA da Anthropic: Impactos e Controvérsias

Anthropic enfrenta dilema com desligamento de sua IA mais poderosa

A Anthropic, famosa por suas preocupações com segurança, agora encara um revés. O governo dos EUA ordenou que a empresa desligasse imediatamente seus modelos de IA mais poderosos, o Claude Fable 5 e o Claude Mythos 5, alegando preocupações de segurança nacional. A Anthropic acatou a ordem, mas deixou claro seu desacordo. A diretiva, recebida numa sexta-feira à tarde, exige que a empresa desative os modelos para todos os usuários, não apenas para estrangeiros, como o controle de exportação sugeria. Outros modelos da Anthropic não foram afetados.

O impacto dessa decisão é significativo. O Mythos é o modelo mais avançado da Anthropic, conhecido por sua habilidade em identificar vulnerabilidades de segurança em softwares. Desde seu lançamento, a Anthropic manteve o Mythos restrito, compartilhando-o apenas com 50 organizações selecionadas, como Amazon e Google, para trabalhos de cibersegurança. Já o Fable 5, lançado recentemente, é uma versão do Mythos com restrições que bloqueiam respostas em áreas de alto risco, tornando-o seguro para uso geral. Segundo testes de benchmark da Vals AI, o Fable 5 era o modelo mais capaz disponível ao público.

A decisão do governo é apresentada como uma ação de controle de exportação, mas a Anthropic acredita que a preocupação real é um suposto jailbreak do Fable 5. A empresa afirma que o governo só forneceu evidências verbais de um "jailbreak potencial e não universal", que envolve pedir ao modelo para ler um código específico e identificar falhas. A Anthropic argumenta que essa capacidade já está disponível em outros modelos públicos, como o GPT-5.5 da OpenAI, e é usada rotineiramente por profissionais de cibersegurança.

A Anthropic destaca que suas salvaguardas mais fortes operam por meio de sistemas independentes, o que significa que, mesmo que alguém consiga fazer o Fable continuar falando após uma recusa, as proteções contra saídas perigosas permanecem. No entanto, isso não impediu a ação governamental, e a empresa não esconde sua frustração. "Discordamos que a descoberta de um jailbreak potencial deva ser motivo para recolher um modelo comercial implantado para milhões de pessoas", escreveu a Anthropic. "Se esse padrão fosse aplicado em toda a indústria, acreditamos que essencialmente interromperia todos os novos lançamentos de modelos."