Anthropic alerta: IA pode em breve construir seus próprios sucessores

O desenvolvimento da inteligência artificial está avançando tão rapidamente que, em breve, ela poderá se aprimorar sem a intervenção humana. Essa é a mensagem de um novo post no blog da Anthropic. A questão é que o conceito de "melhoria recursiva", onde sistemas de IA constroem, testam e melhoram a si mesmos, pode se tornar realidade antes do esperado, segundo a pesquisa da empresa.

A Anthropic destaca que a IA não está apenas mudando a forma como trabalhamos. Ela também está começando a alterar a maneira como a própria IA é desenvolvida. Dados recentes da empresa mostram que modelos de ponta estão acelerando o processo de codificação, depuração e pesquisa. Isso pode criar um ciclo de feedback onde os sistemas de IA geram sucessores ainda mais sofisticados.

Jack Clark, da Anthropic, em entrevista à Axios, comentou que a melhor estratégia é socializar o conceito e preparar as pessoas para o que está por vir. Ele destacou que, ao contrário do que muitos pensam, o progresso da IA tende a acelerar nos próximos anos, em vez de estagnar ou diminuir. Isso é especialmente promissor para avanços na ciência e medicina, mas também exige planejamento sobre como a IA se encaixa nesses setores.

A empresa quer que os legisladores estejam por dentro do assunto antes que "melhoria recursiva" se torne um tema quente. Clark enfatizou a necessidade de desenvolver ferramentas para validar e verificar se o que as IAs estão fazendo está correto e alinhado com as intenções humanas e o bem-estar social.

No panorama geral, melhorias no chatbot Claude resultaram em avanços em agentes de codificação de IA, que por sua vez impulsionaram agentes autônomos. A melhoria recursiva parece ser o próximo passo. Clark argumenta que, num futuro próximo, sistemas de IA podem se tornar suficientemente capazes de projetar, construir e treinar sucessores mais avançados de forma autônoma. Se isso acontecer, cada nova versão do Claude poderia ser criada pela versão anterior, sem a necessidade de intervenção humana.

A OpenAI também já expressou suas preocupações sobre a "melhoria recursiva". Em um blog de dezembro de 2025, descreveu o fenômeno como potencialmente perigoso, caso os pesquisadores não compartilhem informações sobre ele.