Pesquisadores criticam limitações do Fable da Anthropic
A Anthropic lançou o Fable, uma versão pública e limitada do seu modelo de cibersegurança, o Mythos. Mas a recepção não foi tão calorosa entre os pesquisadores da área. As restrições impostas ao Fable têm gerado desconforto. Valentina "Chompie" Palmiotti, pesquisadora de segurança na IBM X-Force, comentou que até tarefas simples, como ler um post de blog, são barradas. Quando um possível risco é detectado, o Fable interrompe a interação e avisa que a mensagem foi sinalizada por tratar de temas de cibersegurança ou biologia.
A preocupação da Anthropic é compreensível. Eles querem evitar que o Fable seja usado para criar malware ou comprometer softwares, um medo antigo da empresa. As restrições em biologia seguem a mesma lógica, para prevenir o desenvolvimento de armas biológicas. Quando o Mythos foi lançado em abril, ele ficou restrito a um número limitado de empresas e organizações, parte do Projeto Glasswing, que visava proteger softwares e infraestruturas críticas. Recentemente, a Anthropic ampliou o acesso do Mythos para centenas de organizações em 15 países.
Guardrails que incomodam
Mesmo com boas intenções, muitos especialistas ainda se sentem frustrados com a forma como as restrições são aplicadas. Matt Suiche, um veterano da cibersegurança, disse que ao pedir para o Fable escrever um código seguro, ele assume que é trabalho relacionado à cibersegurança, e não melhores práticas de engenharia de software. Resultado? Você é rebaixado. O Fable, ao encontrar um obstáculo, recorre ao Claude Opus 4.8. Parece que tudo gira em torno de palavras-chave. Qualquer coisa no campo lexical de "cibersegurança" dispara os alarmes.
Outro pesquisador reclamou no X que até mesmo pedir uma revisão de código ativa as barreiras do Fable. A Anthropic ainda não respondeu a esses comentários. Existe um programa para profissionais de cibersegurança, o Cyber Verification Program. Quem é aprovado tem menos limitações ao usar o Claude para trabalhos de cibersegurança. A OpenAI tem algo semelhante, chamado Trusted Access for Cyber.
Comentários (0)
Os comentários são moderados e caso viole nossos Termos e Condições de uso, o comentário será excluído. A persistência na violação acarretará em um banimento da sua conta.