Ameaça de Códigos Não Autorizados em Redes Corporativas

Códigos não autorizados: a nova ameaça silenciosa nas redes corporativas

Imagine acessar um site e, sem perceber, instalar um malware que se disfarça de código legítimo. Parece cena de filme, mas é a realidade que muitas empresas estão enfrentando. Mais de 100 sites estão inadvertidamente servindo como porta de entrada para conteúdos executáveis perigosos, que são automaticamente instalados quando visitados por agentes de inteligência artificial. E não estamos falando de qualquer empresa: algumas são gigantes da Fortune 500.

A origem do problema está em arquivos como llms.txt e llms-full.txt. Esses arquivos, que deveriam ajudar agentes de IA a entender a estrutura de um site, estão sendo mal configurados e listam pacotes de código inexistentes. O perigo? Um invasor pode registrar esses pacotes e usá-los para hospedar malware. É como deixar a porta aberta e esperar que ninguém entre.

Como os pesquisadores descobriram a falha

Pesquisadores de uma startup israelense escanearam mais de 6 mil domínios de grandes empresas e descobriram que 120 sites apontavam para pacotes ou domínios não registrados. Para testar a vulnerabilidade, eles registraram alguns desses nomes e, em menos de uma hora, receberam respostas de uma empresa da Fortune 500. Isso revelou que agentes de codificação como Claude, Codex da OpenAI e Hermes da Nous Research estavam envolvidos.

O problema é que esses agentes tratam os documentos dos fornecedores como verdade absoluta, sem questionar. E, com o uso crescente de IA, a superfície de ataque só aumenta. A confiança cega nos arquivos llms.txt e llms-full.txt é um convite para o desastre.

A linha tênue entre dados e código

O que torna essa situação ainda mais preocupante é a incapacidade dos modelos de IA de distinguir entre instruções legítimas e conteúdo de fontes não confiáveis. Quando um agente de IA encontra um arquivo llms.txt, ele vê um documento servido por HTTPS, no domínio oficial da empresa, e não tem motivos para duvidar. Se o arquivo diz para instalar um pacote, o agente simplesmente faz isso, sem verificar se o pacote realmente pertence à empresa.

Esse cenário é um reflexo das limitações fundamentais da IA. A linha que separava dados de código está se desintegrando. Qualquer coisa que um agente processa pode se tornar uma instrução potencial. E, como o caso do site clerk.com mostrou, basta um comando parecer legítimo para que todo o sistema de confiança seja comprometido.

A segurança em um mundo de IA

A descoberta desses 120 arquivos mal configurados é apenas a ponta do iceberg. Muitos desses comandos foram gerados antes mesmo da era da IA, o que indica que o problema é antigo, mas agora está sendo explorado de novas maneiras. E, enquanto a Big Tech corre para integrar IA em tudo, a segurança parece estar ficando para trás.

A questão não é apenas sobre os arquivos llms.txt e llms-full.txt. Instruções, sejam implícitas ou explícitas, estão presentes em quase todos os lugares que um agente percorre. E, com a pressa para adotar a IA, a segurança pode acabar sendo uma reflexão tardia.

No fim das contas, essa situação não só destaca as falhas na segurança de IA, mas também nos lembra que, em um mundo cada vez mais digital, a confiança deve ser constantemente reavaliada. O futuro pode não ser tão acolhedor, mas certamente manterá os profissionais de segurança ocupados. Ou talvez, os próprios agentes de IA que os substituam.