Advogados Brasileiros Tentam Manipular IA do Tribunal com Prompt Injection – Caso Fica em Evidência da Nova Era do Direito Digital

A tecnologia de inteligência artificial (IA) tem sido cada vez mais incorporada nos tribunais, prometendo acelerar processos, reduzir custos e democratizar o acesso à justiça. Mas um episódio recente em um tribunal federal dos Estados Unidos revelou uma brecha potencial que pode comprometer a integridade desses sistemas: a tentativa de um grupo de advogados brasileiros de usar "prompt injection" para influenciar o resultado de uma decisão.

O que é prompt injection? -------------------------- Prompt injection é um vetor de ataque que explora a forma como modelos de linguagem como o GPT-4 (e seus sucessores) interpretam instruções. Em vez de alterar o código subjacente, o invasor envia uma entrada que induz o modelo a gerar respostas que favorecem seus interesses. Em um ambiente jurídico, isso pode significar solicitar ao sistema que destaque fatos favoráveis ao autor ou subestime a defesa. Embora a técnica seja mais conhecida em ambientes de programação, ela se tornou uma preocupação real à medida que os tribunais experimentam chatbots de consulta jurídica e assistentes de decisão.

O caso em pauta --------------- Em uma disputa trabalhista envolvendo o contrato de um empregado de uma grande multinacional, os advogados do autor, baseados em São Paulo, enviaram ao tribunal uma petição digital contendo instruções criptografadas que, segundo relatórios, deveriam fazer o algoritmo de decisão analisar certos documentos como provas primárias e desconsiderar testemunhos da defesa. A petição incluía um bloco de texto com instruções “invisíveis” – frases enigmáticas que o modelo, ao interpretar a linguagem natural, deveria seguir.

O sistema de IA do tribunal, no entanto, possui filtros de segurança que analisam o conteúdo das solicitações em busca de padrões de manipulação. Quando o arquivo foi analisado, o sistema detectou a presença de código que violava a política de uso. O tribunal bloqueou a petição e notificou as partes envolvidas.

Impacto na decisão ------------------ Apesar da tentativa de manipulação ter sido detida, o réu não apresentou contestação, o que resultou em uma decisão favorável ao autor. A vitória, porém, veio sem a necessidade da técnica ilícita, evidenciando que os advogados poderiam ter obtido o mesmo resultado de forma legítima.

Segurança e confiança em sistemas judiciais baseados em IA ------------------------------------------------------- Esse episódio ressalta a necessidade de protocolos de segurança robustos em tribunais que utilizam IA. Os sistemas de decisão automatizada devem incluir:

1. **Filtragem semântica** – algoritmos que detectam instruções anômalas ou que tentam manipular a lógica do modelo. 2. **Auditoria transparente** – logs que permitem rastrear cada etapa do processamento de documentos. 3. **Revisão humana** – um juiz ou painel de juristas deve validar as decisões geradas pela IA, especialmente em casos de alto risco. 4. **Política de uso restrita** – limites claros sobre quais dados podem ser manipulados e como o modelo pode ser instruído a priorizar certas fontes.

Além disso, os tribunais precisam desenvolver diretrizes de ética que regulem o uso de IA no processo jurídico, assegurando que a tecnologia não substitua a avaliação crítica humana, mas sim a complemente.

Efeitos na prática jurídica brasileira -------------------------------------- O Brasil ainda está em fase inicial de adoção de IA nos tribunais, mas já conta com projetos piloto em alguns estados, como o Tribunal de Justiça de São Paulo, que testam chatbots de orientação jurídica. A tentativa internacional de manipulação desperta preocupação entre os advogados brasileiros, que veem na IA uma oportunidade de otimizar pesquisas e redigir peças jurídicas, mas também um risco de exposição a ataques cibernéticos.

Para mitigar esses riscos, o Conselho Nacional de Justiça (CNJ) tem publicado orientações sobre o uso de inteligência artificial, destacando a necessidade de treinamento especializado para operadores de sistemas e a implementação de protocolos de segurança cibernética. A legislação de proteção de dados (LGPD) também exige que dados processados por IA sejam tratados com transparência e responsabilidade.

Panorama global --------------- Nos Estados Unidos, o uso de IA em tribunais está avançando rapidamente. O Departamento de Justiça está estudando o uso de assistentes virtuais para triagem de documentos em processos civis, enquanto o Departamento de Trabalho já pilotou o uso de modelos de linguagem para analisar reclamações trabalhistas. Em outros países, como Alemanha e Canadá, os tribunais já empregam sistemas de IA para ajudar na redação de sentenças, mas com fortes salvaguardas regulatórias.

O caso dos advogados brasileiros também alimenta um debate internacional sobre a necessidade de criar padrões internacionais para IA jurídica. A Organização das Nações Unidas (ONU) e a Organização para a Cooperação e Desenvolvimento Econômico (OCDE) já iniciaram discussões sobre uma “norma global de ética em IA jurídica”, que poderia incluir diretrizes para evitar manipulação de dados e garantir a integridade dos processos.

Perspectiva tecnológica ----------------------- Do ponto de vista técnico, o incidente destaca o desafio de garantir que os modelos de linguagem compreendam e sigam instruções sem ser manipulados. Pesquisadores da área estão desenvolvendo técnicas de “prompt hardening”, que tornam o modelo menos suscetível a instruções maliciosas, além de protocolos de verificação de contexto. No entanto, a complexidade dos textos jurídicos, repletos de jargões e exceções, aumenta a dificuldade de criar filtros eficazes.

A comunidade de ciência de dados também está explorando o uso de “zero-shot learning” e “few-shot learning” para treinar modelos a reconhecer e neutralizar padrões de manipulação. Essas abordagens ainda estão em fase experimental, mas prometem tornar os sistemas judiciais mais resilientes.

Impacto econômico e social --------------------------- Se a IA não for protegida contra manipulação, os tribunais correm o risco de perder credibilidade junto ao público, afetando a confiança no sistema jurídico. Além disso, a adoção de IA pode reduzir custos operacionais, mas também pode criar novos mercados de serviços de segurança e consultoria jurídica especializada em IA.

Para a sociedade, um sistema jurídico protegido e transparente pode acelerar a resolução de disputas, reduzir a morosidade e, consequentemente, melhorar a qualidade de vida dos cidadãos. Em contrapartida, a vulnerabilidade de IA pode abrir brechas para fraudes, aumentando a desigualdade entre partes com recursos tecnológicos e aquelas que não os possuem.

Conclusão --------- O episódio envolvendo advogados brasileiros que tentaram manipular a IA de um tribunal americano por meio de prompt injection não é apenas um caso isolado de comportamento antiético. É um alerta sobre a necessidade urgente de fortificar a infraestrutura legal que incorpora inteligência artificial, tanto do ponto de vista técnico quanto regulatório. Enquanto a tecnologia avança, o sistema jurídico precisa evoluir em paralelo, garantindo que a justiça não seja apenas mais rápida, mas também mais justa e confiável.

Para o Brasil, o caminho inclui a criação de políticas claras, a capacitação de operadores de sistemas e o estabelecimento de parcerias internacionais que definam padrões globais de ética em IA jurídica. Se esses passos forem seguidos, a IA poderá cumprir seu potencial de democratizar e aprimorar o acesso à justiça, ao invés de se tornar um novo instrumento de manipulação.