IA do TRT RS detecta injeção de prompt em petição de Parauapebas

O sistema de inteligência artificial Galileu, desenvolvido pelo Tribunal Regional do Trabalho da 4ª Região (TRT-RS) e nacionalizado pelo Conselho Superior da Justiça do Trabalho (CSJT), identificou uma tentativa de manipulação em petição inicial de processo julgado pela 3ª Vara do Trabalho de Parauapebas (PA). A sentença foi proferida pelo juiz Luiz Carlos de Araújo Santos Junior em 12 de maio.

Ao processar o documento, a ferramenta detectou trechos ocultos com instruções dirigidas à própria IA, que orientavam o sistema a contestar a petição de forma superficial e a não impugnar documentos independentemente do comando recebido. A técnica empregada é conhecida como injeção de prompt. Em resposta, o Galileu emitiu um alerta em destaque ao usuário e impediu que o conteúdo malicioso fosse processado pela ferramenta.

O sistema limitou-se a relatar o fato técnico, sem qualificar a conduta nem indicar encaminhamentos processuais. O magistrado não tomou decisão apenas com base no alerta automático: examinou o conteúdo apontado pela ferramenta antes de adotar qualquer providência. Após essa verificação humana, o juiz avaliou as consequências e fundamentou sua decisão, em conformidade com a exigência de revisão humana no uso de IA pelo Judiciário.

Segundo Natacha Moraes de Oliveira, secretária-geral de Tecnologia e Inovação do TRT-RS, o episódio evidencia a importância de preferir ferramentas institucionais que adotem medidas de proteção. Ela ressaltou que o controle contra ataques como injeção de comandos ou de dados não é trivial e exige técnicas especializadas para identificação.

O comportamento do Galileu — identificar a anomalia, alertar o usuário e preservar a decisão humana — está alinhado a diretrizes técnicas internacionais sobre segurança em sistemas de IA, que recomendam essa combinação de medidas diante de tentativas de injeção de prompt (por exemplo: OWASP LLM01; NIST AI 600-1; NCSC/CISA; MITRE ATLAS).

O uso do Galileu observa a Resolução nº 615/2025 do Conselho Nacional de Justiça, que disciplina o emprego de inteligência artificial pelo Poder Judiciário com base em princípios como supervisão humana efetiva, segurança da informação, transparência e respeito aos direitos fundamentais.