OpenAI adiciona marca d'água invisível aos textos do ChatGPT na UE

OpenAI e a Marca d'Água Invisível: Transparência na Era da IA

A OpenAI anunciou que começará a adicionar uma marca d'água invisível aos textos gerados pelo ChatGPT e Codex na União Europeia. Essa medida visa cumprir as regras de transparência do Ato de IA da UE, que entrou em vigor em 2 de agosto. A legislação exige que as empresas de inteligência artificial identifiquem conteúdos gerados por IA de forma que outros sistemas possam reconhecê-los.

A marca d'água, que não é um símbolo visível, funciona moldando sutilmente as escolhas de palavras do modelo, criando um padrão que leitores comuns não percebem, mas que um detector pode identificar. Essa técnica, chamada textGrain, foi detalhada em um relatório técnico publicado pela OpenAI em colaboração com pesquisadores das universidades de Pensilvânia e Yale. O método utiliza uma chave secreta para ordenar previsões de palavras, permitindo que o detector identifique o conteúdo gerado por IA apenas com o texto e a chave.

Como Funciona a Marca d'Água

A marca d'água da OpenAI não altera a performance dos modelos e não identifica o usuário. Ela é incorporada diretamente nas palavras, o que significa que permanece no texto mesmo quando copiado e colado. No entanto, a eficácia da detecção pode ser reduzida. Testes da OpenAI mostram que substituir 10% das palavras por sinônimos pode diminuir a detecção de 92% para 66%. Além disso, trechos curtos, respostas matemáticas e textos traduzidos são mais difíceis de detectar.

A OpenAI decidiu fornecer acesso inicial ao detector apenas para pesquisadores aprovados e organizações especializadas, que podem ajudar a avaliar a confiabilidade e o uso responsável da tecnologia. É importante notar que a ausência de uma marca d'água não prova que o texto foi escrito por um humano. O texto pode ser muito curto, ter sido editado extensivamente ou ter sido gerado por outra IA.

Implicações e Reações

A decisão da OpenAI de implementar a marca d'água surge dois meses após a Anthropic anunciar uma medida semelhante para o Claude, que será aplicada globalmente. Essa decisão gerou críticas de alguns usuários do Claude, que argumentaram que eles forneciam as instruções e o contexto, enquanto o Claude era apenas uma ferramenta.

A OpenAI já havia desenvolvido uma marca d'água para textos anteriormente, mas hesitou em lançá-la devido a preocupações de que os usuários migrassem para concorrentes que não utilizassem a marcação. Agora, com a implementação das regras da UE, a empresa se junta a outras gigantes da tecnologia, como Google, Meta e Microsoft, que se comprometeram a seguir o código de prática da UE para conteúdo gerado por IA.

A introdução da marca d'água invisível pela OpenAI é um passo significativo em direção à transparência na era da inteligência artificial. Embora ainda haja desafios a serem superados, como a facilidade de remoção da marca por meio de edições, a iniciativa representa um esforço para garantir que o conteúdo gerado por IA seja claramente identificado, promovendo uma maior confiança e responsabilidade no uso dessas tecnologias.