O Conselho Nacional de Justiça (CNJ) aprovou uma nota técnica com orientações para que os tribunais adotem medidas de proteção contra tentativas de manipulação de sistemas de inteligência artificial utilizados no Poder Judiciário.

As diretrizes têm como objetivo prevenir ataques conhecidos como *prompt injection*, técnica que utiliza comandos ocultos inseridos em documentos para influenciar o comportamento de ferramentas de IA responsáveis pela análise de petições, anexos, metadados e outras informações processuais.

Segundo o CNJ, documentos aparentemente comuns podem conter instruções invisíveis destinadas não aos usuários, mas aos sistemas de inteligência artificial, comprometendo a confiabilidade das análises realizadas pelas plataformas judiciais.

O tema ganhou destaque após a identificação de casos concretos, incluindo um episódio detectado pelo sistema Galileu, do TRT da 8ª Região, em processo que tramitava na Vara do Trabalho de Parauapebas (PA). Situações semelhantes também foram registradas no Superior Tribunal de Justiça (STJ).

A nota técnica recomenda que tribunais tratem documentos processuais e conteúdos extraídos de arquivos digitais como dados potencialmente não confiáveis. Entre as medidas sugeridas estão mecanismos de segurança para recebimento de documentos, identificação de conteúdos suspeitos, rastreabilidade das ações dos sistemas, auditorias e capacitação de magistrados e servidores.

O CNJ também reforça que ferramentas de IA voltadas à pesquisa, classificação e sumarização de informações não devem produzir respostas que possam ser confundidas com decisões judiciais, preservando a supervisão humana sobre os atos jurisdicionais.

Aprovada pelo plenário do CNJ, a nota técnica será divulgada aos tribunais para implementação das medidas de segurança recomendadas.

Arte/crédito: Arquivo CNJ

Fonte: Migalhas.