Anthropic e os Limites do Fable 5: O Que Não Pode Ser Dito

A Anthropic decidiu que seu modelo Fable 5 não vai falar sobre certos temas por serem considerados perigosos demais. A empresa lançou o Fable 5, um modelo da chamada classe "Mythos", que promete superar suas versões anteriores, mas com algumas restrições bem claras. O modelo não responde a perguntas sobre cibersegurança, biologia e química. A preocupação é que essas áreas possam "empoderar" agentes mal-intencionados.

O Fable 5 opera com a mesma base do Mythos 5, mas enquanto este último está disponível apenas para um grupo seleto de ciberdefensores confiáveis, o Fable 5 é acessível ao público geral. Porém, quando alguém tenta abordar esses temas sensíveis, o sistema redireciona a consulta para o modelo anterior, o Claude Opus 4.8, e avisa o usuário sobre isso. A Anthropic ajustou essas barreiras de forma a serem mais rigorosas do que o ideal, reconhecendo que isso pode frustrar usuários comuns. Mas eles argumentam que é um preço pequeno a pagar para evitar que o modelo auxilie em atividades nocivas.

Um ponto interessante é que, em mais de mil horas de testes com equipes externas, ninguém conseguiu burlar essas proteções. A Anthropic está especialmente preocupada com a capacidade do Mythos 5 de realizar "hacking agente", ou seja, ataques cibernéticos complexos, algo que ele faz melhor do que modelos anteriores. Testes recentes mostraram que o Mythos Preview tem um desempenho semelhante ao GPT-5.5 da OpenAI em desafios de segurança, o que sugere que não há um avanço específico para um único modelo.

Além disso, a Anthropic ampliou o bloqueio de consultas relacionadas a biologia e química, temendo que atores mal-intencionados bem equipados possam usar essas informações para pesquisas biológicas arriscadas. A empresa entende que essa restrição é uma faca de dois gumes. O que é útil para profissionais de cibersegurança e pesquisadores de biologia pode ser perigoso nas mãos erradas. Isso coloca a Anthropic na posição delicada de decidir quem é confiável o suficiente para acessar o Mythos 5.

A Anthropic planeja expandir seu programa Project Glasswing, em consulta com o governo dos EUA, para incluir mais profissionais de cibersegurança e organizações de ciências da vida, permitindo que eles acessem o modelo sem as restrições de biologia e química. Para quem quiser usar o Fable 5, o custo é de 10 dólares por milhão de tokens de entrada e 50 dólares por milhão de tokens de saída, valores significativamente mais altos que os do GPT-5.5 da OpenAI. A empresa espera que, no futuro, o Fable 5 possa ser parte dos planos de assinatura padrão, assim que tiver capacidade suficiente para isso.