Uma tarefa aparentemente simples terminou com uma conta de US$ 1,8 milhão dentro da Amazon. O projeto usava o Claude Sonnet, da Anthropic, para relacionar informações sobre autores aos anúncios de livros no site da empresa.
Além de não ser implantado com sucesso, o sistema ultrapassou o orçamento em 860%. O problema demorou cinco meses para ser identificado.
O caso foi apresentado por engenheiros seniores da Amazon durante uma reunião interna, segundo informações publicadas pelo Financial Times. A mensagem levada aos funcionários foi direta: erros que antes custavam pouco podem se tornar muito caros quando são repetidos por sistemas de inteligência artificial.
Um bug pequeno pode virar uma conta enorme.
O problema apareceu em outros projetos
O projeto com Claude foi o caso mais caro apresentado, mas não o único. Uma ferramenta criada para auditorias financeiras gerou aproximadamente US$ 541 mil em despesas inesperadas.
Outro sistema, desenvolvido para melhorar a velocidade das entregas na rede logística da Amazon, acumulou US$ 134 mil em custos não planejados. Nesse caso, a empresa levou mais de duas semanas para identificar o problema.
Os episódios mostram uma dificuldade que acompanha o uso de IA em projetos internos. Mesmo quando a tarefa parece limitada, o custo pode crescer rapidamente sem mecanismos capazes de detectar desvios.
A Amazon afirmou que os casos não representam a forma como a tecnologia é utilizada em toda a companhia. Segundo a empresa, suas equipes continuam experimentando, aprendendo e buscando maneiras de usar IA com mais eficiência.
A Amazon prepara novos controles
Após identificar os gastos, engenheiros começaram a desenvolver proteções automatizadas para projetos futuros. A ideia é criar limites e alertas que permitam interromper despesas anormais antes que permaneçam escondidas durante semanas ou meses.
O caso não mostra que a IA deixou de ser útil para empresas. Mostra que automatizar uma tarefa não elimina a necessidade de acompanhar o projeto de perto.
Na Amazon, uma atividade envolvendo dados de autores terminou 860% acima do orçamento. O próximo desafio não é apenas fazer a IA funcionar, mas perceber rapidamente quando o custo deixa de fazer sentido.
Comentários (0)
Os comentários são moderados e caso viole nossos Termos e Condições de uso, o comentário será excluído. A persistência na violação acarretará em um banimento da sua conta.