Veteranos criticam proibição dos modelos Anthropic pelos EUA

Proibição dos modelos da Anthropic gera polêmica entre veteranos da cibersegurança

A decisão do governo dos EUA de proibir a exportação dos modelos Fable e Mythos da Anthropic está causando um rebuliço no mundo da cibersegurança. Um grupo de especialistas, incluindo veteranos renomados da área, se uniu para criticar a medida. Eles publicaram uma carta aberta pedindo ao governo que reconsidere a ordem, argumentando que essa proibição retira dos defensores da cibersegurança as melhores ferramentas para identificar vulnerabilidades e proteger sistemas. A carta destaca que, num momento em que adversários estão avançando rapidamente, privar os defensores dessas capacidades é perigoso.

Na última sexta-feira, a Anthropic foi instruída a limitar a exportação dos modelos, com base em preocupações de segurança nacional. No entanto, os motivos específicos por trás dessa decisão não foram divulgados. Como resultado, a empresa suspendeu o acesso aos modelos para todos os usuários no mundo. Entre os 76 signatários da carta estão nomes de peso como Alex Stamos, ex-chefe de segurança do Facebook, e Casey Ellis, fundador da Bugcrowd. A Anthropic, ao lançar o Mythos em abril, afirmou que o modelo era tão eficaz em encontrar falhas de segurança que precisava ser restrito para evitar que hackers mal-intencionados o utilizassem para causar estragos.

A controvérsia em torno do Mythos e do Fable

Inicialmente, a Anthropic permitiu que cerca de 50 empresas tivessem acesso ao Mythos, expandindo recentemente para 150 organizações em 15 países. Na semana passada, a empresa lançou o Fable, uma versão pública do Mythos, mas com restrições rigorosas para impedir seu uso em biologia, química e cibersegurança. Essas restrições foram tão severas que muitos especialistas em cibersegurança afirmaram que o modelo bloqueava praticamente qualquer prompt relacionado à área.

A decisão do governo pode ter sido influenciada por um relatório que sugeria a possibilidade de burlar as restrições do Fable para acessar suas capacidades avançadas. Katie Moussouris, uma das signatárias da carta, revisou um artigo de pesquisadores da Amazon que supostamente demonstrava essa técnica. No entanto, ela afirma que o artigo não mostrou um jailbreak real. Em vez disso, os pesquisadores pediram ao Fable para corrigir códigos de fonte aberta com vulnerabilidades conhecidas, o que o modelo inicialmente se recusou a fazer.