Nota da Redação: Este artigo é um resumo curado. A reportagem original foi publicada por G1.

Manipulação de IA no Judiciário

Tribunais brasileiros, incluindo o TJSP, identificaram a prática de prompt injection em petições judiciais. A técnica consiste em inserir comandos "invisíveis" — como textos em fonte branca sobre fundo branco — para induzir sistemas de inteligência artificial (IA) a favorecerem determinadas partes, solicitando a concessão de justiça gratuita ou tutelas de urgência sem a devida análise humana.

Casos semelhantes foram registrados no Pará, Minas Gerais e Paraíba. No TRT8 (Pará), advogadas foram multadas em R$ 84,2 mil, enquanto em Minas Gerais, um profissional foi penalizado em R$ 8,1 mil por tentar manipular resumos de processos. Diante do cenário, o Superior Tribunal de Justiça (STJ) abriu uma investigação interna para apurar fraudes cometidas por advogados em seus sistemas.

O Conselho Nacional de Justiça (CNJ) já determina a revisão humana obrigatória em todas as decisões apoiadas por IA, proibindo sentenças exclusivamente automatizadas. Para mitigar os riscos, o TJMG sugeriu a adoção de "comandos defensivos", que instruem a IA a ignorar qualquer sugestão oculta inserida pelas partes nos documentos processuais.

Especialistas alertam que essas ocorrências são a "ponta do iceberg" e que a manipulação pode evoluir para formas mais complexas, como o uso de links externos ou construções matemáticas. O debate agora gira em torno da necessidade de "sanitizar" dados de entrada e do combate ao viés de automação, evitando que magistrados confiem cegamente nas recomendações das máquinas.