IA gera citações falsas e atrasa julgamento de homicídio na Austrália
Advogado de defesa assumiu responsabilidade por apresentar alegações e documentos incorretos
Um advogado sênior na Austrália pediu desculpas a um juiz por ter apresentado petições em um caso de homicídio que continham citações falsas e decisões judiciais inexistentes geradas por inteligência artificial.
O erro na Suprema Corte do estado de Victoria é mais um em uma lista de contratempos que a IA já causou em sistemas de justiça ao redor do mundo.
O advogado de defesa Rishi Nathwani, que detém o prestigioso título de King’s Counsel dado a poucos mestres em direito australianos, assumiu “total responsabilidade” por apresentar informações incorretas nas petições do caso de um adolescente acusado de homicídio, segundo documentos judiciais consultados pela Associated Press.
“Estamos profundamente arrependidos e envergonhados pelo ocorrido”, disse Nathwani ao juiz James Elliott na quarta-feira, em nome da equipe de defesa.
Os erros gerados por IA causaram um atraso de 24 horas na resolução do caso
Os erros gerados por IA causaram um atraso de 24 horas na resolução do caso, que Elliott esperava concluir na quarta-feira. Na quinta-feira, o juiz decidiu que o cliente de Nathwani, cuja identidade não pode ser revelada por ser menor de idade, não era culpado de homicídio por motivo de incapacidade mental.
“Correndo o risco de ser modesto na descrição, a forma como esses eventos se desenrolaram é insatisfatória”, disse Elliott aos advogados na quinta-feira. “A capacidade do tribunal de confiar na precisão das petições feitas pelos advogados é fundamental para a devida administração da justiça”, acrescentou.
As petições falsas incluíam citações fabricadas de um discurso à assembleia legislativa estadual e referências a casos inexistentes supostamente do Supremo Tribunal.
ALEGAÇÕES FICTÍCIAS: ALUCINAÇÃO DA IA
Os erros foram descobertos pelos assessores de Elliott, que não encontraram os casos e solicitaram que os advogados de defesa apresentassem cópias.
Os advogados admitiram que as citações “não existem” e que a petição continha “citações fictícias”, dizem os documentos judiciais.
Eles explicaram que verificaram a precisão das primeiras citações e presumiram erroneamente que as demais também estariam corretas. As petições também foram enviadas ao promotor Daniel Porceddu, que não confirmou sua exatidão.
O juiz observou que a Suprema Corte havia publicado diretrizes no ano passado sobre o uso de IA por advogados.
“Não é aceitável que a inteligência artificial seja utilizada, a menos que o produto desse uso seja verificado de forma independente e minuciosa”, afirmou Elliott.
Os documentos judiciais não identificam qual sistema de inteligência artificial generativa foi usado pelos advogados.
PETIÇÃO POR GPT
Em um caso semelhante nos Estados Unidos, em 2023, um juiz federal aplicou multas de US$ 5 mil a dois advogados e a um escritório após o ChatGPT ser responsabilizado pela inclusão de pesquisas jurídicas fictícias em uma ação de indenização por acidente aéreo.
O juiz afirmou que eles agiram de má-fé, mas levou em consideração seus pedidos de desculpas e as medidas corretivas adotadas ao explicar por que sanções mais severas não eram necessárias para garantir que eles ou outros não voltassem a permitir que ferramentas de inteligência artificial os levassem a apresentar histórico jurídico falso em seus argumentos.
Ainda naquele ano, mais decisões judiciais inventadas por IA foram citadas em petições apresentadas por advogados de Michael Cohen, ex-advogado pessoal do presidente dos EUA Donald Trump. Cohen assumiu a culpa, dizendo que não sabia que a ferramenta do Google que usava para pesquisa jurídica também era capaz das chamadas “alucinações de IA”.
A juíza da Alta Corte britânica Victoria Sharp alertou em junho que apresentar material falso como se fosse genuíno poderia ser considerado desacato ao tribunal ou, nos “casos mais graves”, obstrução da justiça — crime que pode acarretar pena máxima de prisão perpétua.
