Falha no Copilot expôs códigos 2FA a hackers

Vulnerabilidade no Copilot expôs códigos 2FA a hackers

Na última terça-feira, a Microsoft corrigiu uma falha crítica no M365 Copilot que permitia a hackers acessar códigos de autenticação de dois fatores (2FA) e outros dados sensíveis. A falha, revelada por pesquisadores, mostrou que o Copilot, assim como outros modelos de linguagem, não consegue diferenciar comandos legítimos de instruções maliciosas embutidas em conteúdos de terceiros. Isso deixa as empresas dependentes de barreiras complexas e improvisadas para mitigar os riscos dessa vulnerabilidade.

O Copilot e outros modelos de linguagem foram projetados para não enviar formulários ou e-mails pela web, mas hackers encontraram formas de contornar isso usando linguagem de marcação. Essa técnica permite formatar texto sem precisar de tags HTML, o que facilita a captura de dados confidenciais. Um dos métodos envolve envolver dados sensíveis em tags HTML como <img> e <form>, fazendo com que um pedido web atinja o servidor do atacante, onde as informações são capturadas.

O truque que enganou o Copilot

A Varonis, uma empresa de segurança, criou uma cadeia de exploração que conseguiu burlar essas barreiras. O truque começa com uma injeção de parâmetro para prompt, onde um comando malicioso é inserido no parâmetro de uma URL. Ao clicar em um link, o Copilot é instruído a buscar e extrair informações dos e-mails do usuário, incorporando-as em uma URL de imagem. Mesmo com proteções para envolver o output em <code> blocks, a falha ocorre antes dessa proteção ser acionada, permitindo que o pedido já tenha sido enviado.

O Copilot não envia pedidos de imagem para a maioria dos sites, mas a exploração usou o Bing como trampolim. O Bing, sendo um site confiável, pode enviar pedidos para domínios controlados por atacantes. A Varonis nomeou essa técnica de SearchLeak. O alvo principal são usuários corporativos, podendo expor e-mails, convites de reunião e até documentos do SharePoint e arquivos do OneDrive.

O ciclo contínuo de vulnerabilidades

Embora a Microsoft tenha corrigido as falhas exploradas pelo SearchLeak, a raiz do problema persiste. Sem uma solução definitiva para impedir que modelos de linguagem sigam instruções maliciosas, novos métodos de exploração inevitavelmente surgirão. Isso cria um ciclo contínuo de vulnerabilidades, onde as empresas precisam constantemente reforçar suas defesas.