Advogado usa ChatGPT e enfrenta consequências por testemunhos fictícios
Imagine a cena: um advogado experiente, com mais de 40 anos de atuação, decide usar uma ferramenta de inteligência artificial para ajudar em um caso complexo. O resultado? Um desastre jurídico. Stephen Aarons, um advogado de defesa criminal no Novo México, foi considerado em desacato direto pela Suprema Corte do estado por submeter um documento repleto de depoimentos falsos e testemunhas inventadas. A situação é um exemplo claro de como a confiança cega na tecnologia pode sair pela culatra.
Aarons, contratado para apelar a condenação de Oscar Renee Sandoval, que cumpre prisão perpétua, admitiu que não verificou as informações geradas pelo ChatGPT antes de apresentá-las ao tribunal. O detalhe é que ele não informou seu cliente sobre as falhas no documento, que continha múltiplas distorções factuais e legais. A Suprema Corte do Novo México, além de repreender Aarons, encaminhou o caso para uma comissão disciplinar para possíveis sanções adicionais.
O erro de confiar cegamente na IA
O advogado alimentou o ChatGPT com transcrições do julgamento e outros documentos, esperando um resumo infalível. Mas o que obteve foram citações falsas de testemunhas que nunca existiram, como "Oficial Michelle Amarillo" e "Teresa Marquez". Aarons argumentou que não sabia que a IA poderia "alucinar" fatos, mas essa justificativa não convenceu os juízes. Eles foram enfáticos ao afirmar que, independentemente da fonte, cabe ao advogado garantir a precisão das informações apresentadas.
A crítica mais dura veio da Justiça C. Shannon Bacon, que destacou que até seu sobrinho de 13 anos e sua madrasta de 75 anos sabem dos riscos de confiar cegamente em IA. Ela questionou se Aarons estava realmente alheio às notícias sobre as limitações dessas ferramentas ou se simplesmente escolheu ignorá-las. A lição aqui é clara: a tecnologia pode ser uma aliada, mas não substitui a responsabilidade profissional.
O impacto real na vida do cliente
O que talvez seja mais preocupante é o impacto que esse erro teve sobre o cliente de Aarons. A Suprema Corte ordenou que um novo advogado fosse designado para Sandoval, e todos os documentos anteriores foram retirados do registro. Enquanto Aarons enfrenta possíveis penalidades, é Sandoval quem continua preso, aguardando que seu caso seja revisado.
Aarons, por sua vez, expressou arrependimento e esperança de que a comissão disciplinar considere o erro como um engano honesto. Ele também sugeriu que o tribunal estabeleça diretrizes claras para o uso de IA em documentos jurídicos, mas os juízes rapidamente descartaram essa sugestão como uma distração do problema principal: a falta de verificação das informações.
A responsabilidade não pode ser delegada
O caso de Aarons serve como um alerta para todos os profissionais que dependem de tecnologia avançada. Não importa se a ferramenta é uma IA de última geração ou um estagiário de direito: a responsabilidade final pela precisão das informações é sempre do advogado. Como destacou o juiz Michael Vigil, o problema não é a ferramenta em si, mas a falta de verificação antes de apresentar o documento ao tribunal.
No fim das contas, a história de Aarons é um lembrete de que a tecnologia, por mais avançada que seja, não pode substituir o julgamento humano. A confiança cega em IA sem a devida diligência pode ter consequências sérias, não apenas para os profissionais, mas principalmente para aqueles que dependem deles. É um chamado à responsabilidade e à cautela em um mundo cada vez mais digital.
Comentários (0)
Os comentários são moderados e caso viole nossos Termos e Condições de uso, o comentário será excluído. A persistência na violação acarretará em um banimento da sua conta.