Citações falsas e comandos ocultos: o caos da IA nos tribunais
Casos com citações fictícias e argumentos inventados expõem riscos do uso de IA no Direito
O uso de IA está se tornando cada vez mais comum no sistema jurídico. Tanto profissionais experientes quanto novatos estão recorrendo ao ChatGPT e outras ferramentas para tentar construir o caso mais persuasivo possível ao chegar aos tribunais.
No mês passado, o prestigiado escritório Sullivan & Cromwell, dos EUA, foi forçado a pedir desculpas após apresentar nomes fictícios de processos e citações inventadas em um documento submetido à justiça, além de citar incorretamente trechos do Código de Falências dos Estados Unidos.
“Lamentamos profundamente que isso tenha ocorrido”, escreveu o escritório em uma carta de retratação enviada ao juiz responsável por um caso envolvendo uma suposta operação de golpe no Camboja (acusação negada pelo réu).
E esse está longe de ser um caso isolado envolvendo IA no judiciário.
No Brasil, duas advogadas foram multadas em R$ 84,2 mil por tentarem utilizar um mecanismo para manipular a inteligência artificial de um tribunal no Pará, segundo reportado pelo portal de notícias g1.
A dupla inseriu, na petição inicial, um comando em letras brancas sobre fundo branco (não visível a olhos humanos) determinando que qualquer resposta da IA à petição fosse "superficial" e que não fosse capaz de superar os argumentos iniciais.
A técnica é conhecida como "prompt injection" – quando alguém insere instruções escondidas para enganar ou manipular uma ferramenta de IA. Mas o juiz do trabalho Luis Carlos de Araújo Santos Júnior identificou a tentativa de manipular a IA do tribunal.
JÁ VIROU TENDÊNCIA
O amplamente divulgado caso Mata versus Avianca, em 2023, foi um dos primeiros grandes exemplos de um advogado usando o ChatGPT para redigir uma petição baseada inteiramente em precedentes judiciais inexistentes.
De lá para cá, os exemplos vêm se multiplicando. No ano passado, em um processo na Alta Corte do Reino Unido, um advogado apresentou 18 citações fictícias de jurisprudência, de um total de 45 referências. Em outro caso, também em 2025, um advogado utilizou IA para se preparar para uma audiência e tentou esconder citações fabricadas.
O impacto da IA sobre o sistema jurídico começa a aparecer também nos números. Um estudo recente sugere que os tribunais federais dos Estados Unidos já começam a registrar aumentos consideráveis no volume de processos.
“A participação de ações movidas por pessoas sem representação legal estava em torno de 11% há bastante tempo”, afirma Anand Shah, pesquisador do Instituto de Tecnologia de Massachusetts (MIT) que liderou o estudo. “No mundo pós-IA, vemos isso saltar para algo como 18%.”
Ao lado de Joshua Levy, da Universidade do Sul da Califórnia, Shah analisou a proporção de textos gerados por IA em petições judiciais usando uma amostra aleatória de 1,6 mil documentos distribuídos ao longo de oito anos.
Eles descobriram que o uso de texto gerado por IA saltou de “praticamente 0%” antes da IA generativa para cerca de 18% no início de 2026. “Ficamos absolutamente chocados”, diz Shah.
Leia mais: ONU lança fórum global para governar a inteligência artificial
Ao examinar os documentos mais profundamente, os pesquisadores perceberam que o crescimento estava concentrado em tipos de casos mais simples e facilmente padronizáveis, e não em áreas altamente técnicas, como patentes ou direito societário.
Segundo Shah, isso pode indicar que a IA está ajudando pessoas a ingressarem com ações que antes talvez jamais tentassem mover, já que se tornou muito mais fácil gerar a estrutura de um argumento jurídico e a documentação necessária com esforço mínimo.
NA PRESSÃO
Embora histórias engraçadas sugiram que a enxurrada de IA já esteja começando a pressionar o sistema jurídico dos EUA, Shah afirma que a disrupção ainda não apareceu totalmente nos dados.
“Os casos não estão sendo resolvidos nem mais rápido nem mais devagar, o que por si só é um pouco surpreendente”, afirma.
Mas ele observa que o volume de trocas processuais entre as partes aumentou consideravelmente, ampliando muito o número de documentos que juízes precisam analisar. Segundo Shah, esse número cresceu cerca de 158%.
Um estudo recente sugere que os tribunais federais dos EUA começam a registrar aumento no volume de processos.
Para o pesquisador, é preciso começar a estabelecer limites para o uso de IA nos tribunais antes que a pressão se torne severa o suficiente para desacelerar o funcionamento da justiça.
Shah afirma que os tribunais de instâncias inferiores já operam sob forte pressão e alerta que o problema tende a crescer rapidamente à medida que os modelos de IA melhoram e mais pessoas percebem que podem utilizá-los para gerar petições judiciais.
Isso significa que será necessário mais trabalho para estabelecer regras e normas que definam como e quando a IA deve ser utilizada no sistema jurídico.
“Definitivamente não deveríamos tratar essa transição de qualquer jeito, deixando tribunais movidos por IA surgirem aleatoriamente e testarem todo tipo de coisa”, alerta Shah.
Com informações da redação da Fast Company Brasil
