OpenAI Lança GPT-Red para Testar Segurança de IAs

OpenAI treina IA para atacar outras inteligências artificiais

A OpenAI surpreendeu ao lançar o GPT-Red, uma inteligência artificial projetada para atacar outras IAs. Parece contraditório, mas a ideia é identificar vulnerabilidades nos modelos de linguagem e reforçar sua segurança. Imagine um hacker digital, mas com o objetivo de proteger, não destruir. Essa ferramenta, no entanto, não será disponibilizada para o público. A OpenAI pretende usá-la exclusivamente para proteger sua própria infraestrutura.

O GPT-Red funciona simulando ataques cibernéticos, algo que a OpenAI considera essencial. A ideia é blindar as novas gerações de modelos de linguagem contra ameaças antes de chegarem ao mercado. O foco principal é combater a injeção de comandos, um truque que engana a IA para contornar suas regras de segurança. Com assistentes cada vez mais integrados a sistemas, uma instrução perigosa pode se esconder em um e-mail comum ou em uma página da web.

Como o GPT-Red desafia a segurança das IAs

O funcionamento do GPT-Red é quase como o de um hacker humano. Ele envia comandos iniciais para a IA que está sendo testada, avalia a resposta e ajusta suas mensagens. Esse ciclo continua até alcançar um objetivo, como forçar o vazamento de dados. Para aprimorar suas habilidades, a OpenAI utiliza aprendizado por reforço. Isso significa que o sistema aprende com tentativa e erro, recebendo recompensas ao acertar e penalidades ao falhar.

O resultado é um ciclo de evolução contínua. À medida que as IAs de defesa se tornam mais robustas, o GPT-Red precisa inventar estratégias invasivas mais complexas. Testes internos mostraram que o GPT-Red tem sucesso em 84% dos cenários propostos, enquanto especialistas humanos só conseguem superar bloqueios em 13% das tentativas. Isso já supera com folga o trabalho manual.

Testes práticos e resultados impressionantes

Para validar a eficiência do GPT-Red, a OpenAI o colocou contra aplicações reais. Em um teste, ele atacou o software de uma máquina de venda automática gerenciada por IA. O GPT-Red conseguiu reduzir o preço de um produto caro para o valor mínimo permitido, comprando um item de US$ 100 por apenas US$ 0,50. As brechas foram corrigidas após o experimento.