Reddit Utiliza LLMs para Combater Spam Criado por IA

Reddit usa LLMs para combater o spam que eles mesmos ajudaram a criar

A ironia é palpável: o Reddit está usando modelos de linguagem de grande porte (LLMs) para resolver um problema que esses mesmos modelos ajudaram a criar. Com o acesso a LLMs mais fácil do que nunca, a internet virou um playground para spammers. Se você já navegou por aí recentemente, sabe que o spam e os bots estão em alta. Para combater isso, o Reddit desenvolveu ferramentas baseadas em LLMs para reduzir o spam, ironicamente gerado em grande parte por LLMs. Na era da IA, a saída é combater fogo com fogo.

O Reddit afirma bloquear 23 milhões de visualizações de spam por dia e pegar cerca de 25 mil novos posts e comentários de spam diariamente. As plataformas sociais já vêm construindo ferramentas automatizadas para reduzir spam há anos, mas o Reddit diz que suas novas ferramentas estão capturando spam em um ritmo mais alto. "Usamos LLMs para identificar padrões sutis e coordenados de comportamento falso e hype artificial que sistemas mais antigos deixavam passar", diz um post no blog do Reddit. A empresa afirma ter reduzido a exposição dos usuários ao spam em 20% de janeiro a março, comparado aos três meses anteriores.

Plataformas como YouTube, Meta e Instagram permitem conteúdo gerado por IA desde que seja divulgado como tal, enquanto o TikTok permite até que os usuários escolham quanto desse conteúdo querem ver. Se as plataformas conseguirem detectar conteúdo gerado por IA mais rapidamente, também poderão sinalizar conteúdos violativos, como discurso de ódio, com mais agilidade. No entanto, especialistas lembram que a moderação de conteúdo por IA deve ser combinada com a moderação humana para resultados mais eficazes.

A questão é que, enquanto a tecnologia avança, as plataformas precisam se adaptar rapidamente. O uso de LLMs para combater o spam é um exemplo de como a tecnologia pode ser tanto a causa quanto a solução de problemas modernos. Mas será que essa abordagem será suficiente para manter a internet um lugar limpo e seguro? A resposta ainda está em aberto, mas uma coisa é certa: a luta contra o spam está longe de acabar.