STJ investiga uso de comandos em textos para manipular modelos
O Superior Tribunal de Justiça (STJ) determinou a abertura de inquérito e de procedimento administrativo para apurar o uso da técnica conhecida como “prompt injection” em atos processuais. A medida foi tomada após envio de material que indica a inserção de instruções capazes de influenciar respostas de modelos de linguagem empregados na elaboração de documentos.
Segundo análise da redação do Noticioso360, com base no material recebido e em consultas a especialistas, a apuração preliminar aponta a existência de múltiplos processos em que trechos inseridos teriam a função de contornar filtros ou expor instruções internas de sistemas automatizados.
O que é ‘prompt injection’ e por que preocupa
“Prompt injection” é uma técnica que consiste em inserir comandos ou instruções dentro de um texto com o objetivo de manipular o comportamento de um modelo de linguagem. Quando aplicada em contexto jurídico, a manobra pode comprometer a integridade de peças processuais, revelar dados que deveriam permanecer protegidos ou induzir assistentes automáticos a produzir redações com conteúdo indevido.
Especialistas consultados pela reportagem explicam que a técnica explora a forma como modelos interpretam e priorizam instruções contidas em entradas textuais. Em situações práticas, basta um trecho cuidadosamente redigido para que o sistema execute uma ação não prevista — por exemplo, suprimir informações, alterar a ênfase de um argumento ou expor metadados sensíveis.
Como a apuração foi motivada e o papel do STJ
O despacho que determinou as investigações cita indícios de inserções atípicas em documentos apresentados ao tribunal. A investigação interna deverá mapear quais processos podem ter sido afetados, quem teve acesso às peças e se houve utilização de provedores externos ou ferramentas de terceiros para a geração dos textos.
De acordo com os termos do inquérito, os peritos nomeados deverão analisar documentos digitais, metadados e histórico de versões, além de eventuais logs de serviços que possam demonstrar interação com modelos de linguagem. Ouvir profissionais de tecnologia e os autores das peças também faz parte do roteiro previsto.
Curadoria e limitações da apuração
A apuração do Noticioso360 confirma que, até o momento, não há decisão pública que determine repercussão automática em processos já julgados. Há, portanto, necessidade de análise caso a caso antes de qualquer anulação ou revisão de atos processuais.
O material enviado à redação foi a base inicial desta reportagem, o que impõe limitações de verificação. Procedimentos futuros dependem do acesso a despachos, autos e registros formais do tribunal para confirmar datas, números de processos e nomes dos envolvidos.
Possíveis impactos jurídicos e disciplinares
Se confirmada a utilização deliberada de prompt injection com objetivo de manipular fluxos decisórios, o STJ poderá abrir procedimentos disciplinares contra advogados e profissionais envolvidos. Além disso, atos processuais contaminados poderiam ser objeto de revisão, a depender da gravidade e das consequências práticas identificadas.
Por outro lado, os especialistas lembram que nem todo uso de assistentes automatizados caracteriza conduta ilícita: há diferença entre empregar ferramentas para rascunhos e inserir comandos maliciosos para alterar o funcionamento de sistemas. A prova técnica será determinante para separar a linha entre uso legítimo e prática dolosa.
Medidas técnicas e prevenção
Entre as medidas recomendadas a órgãos judiciais e partes estão a adoção de protocolos de submissão de arquivos, validação pericial de documentos digitais, preservação de logs e a exigência de declaração de autoria e de uso de ferramentas automatizadas. Também pode ser necessária a capacitação de equipes de tecnologia dos tribunais para identificar padrões de manipulação.
Especialistas em IA forense sugerem ainda auditorias periódicas e a implementação de filtros e sistemas de detecção que identifiquem instruções anômalas inseridas em textos. Tais mecanismos podem reduzir riscos, sem, no entanto, substituir a análise humana.
O que se espera da investigação
A investigação no STJ terá como foco identificar a origem das inserções, a cadeia de responsabilidade e a extensão dos efeitos nas decisões. Documentos digitais, metadados e a interação com prestadores de serviço serão centrais para a formação do convencimento institucional.
Segundo fontes técnicas, se for comprovada a participação de terceiros sem vínculo direto com os autos — por exemplo, consultorias ou operadores que integraram modelos de linguagem ao fluxo de trabalho —, eventuais sanções podem se estender além da esfera disciplinar, alcançando contratos e responsabilidades civis.
Próximos passos para a cobertura jornalística
Para consolidar a reportagem, a redação do Noticioso360 recomenda a obtenção de: 1) cópias dos despachos do STJ que autorizam o inquérito; 2) lista de processos apontados; 3) entrevistas com peritos em IA forense e com a equipe de tecnologia do tribunal; 4) posicionamento formal das partes envolvidas.
Sem acesso a esses autos, qualquer conclusão definitiva seria prematura. A expectativa é que o tribunal publique detalhes do inquérito à medida que avançar, o que permitirá checagens mais robustas sobre alcance e culpabilidade.
Fontes
Conteúdo verificado e editado pela Redação do Noticioso360, com base em fontes jornalísticas verificadas.
Analistas apontam que a descoberta pode redefinir práticas de submissão de peças e acelerar regulamentações sobre o uso de ferramentas de inteligência artificial no âmbito jurídico.
