O Comitê Nacional de Inteligência Artificial no Judiciário aprovou, nesta quarta-feira (27), duas medidas para ampliar a prevenção e a resposta a tentativas de manipulação de sistemas de IA usados pela Justiça. Coordenadas pelo Conselho Nacional de Justiça (CNJ), as iniciativas incluem uma manifestação técnica sobre riscos de comandos ocultos em documentos processuais e a criação do Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (PROSEG-IA).
Segundo o conselheiro Rodrigo Badaró, presidente do Comitê Nacional, a manifestação técnica orienta sobre cuidados para impedir que comandos escondidos em arquivos interfiram no funcionamento das ferramentas de IA ou provoquem divulgação indevida de informações.
O estudo elaborado pelo Comitê, com apoio do Departamento de Tecnologia da Informação do CNJ e do Programa Conecta, propõe medidas para reforçar a confiabilidade dos sistemas, como a preparação adequada dos documentos antes do uso pela IA e a conferência das respostas por magistrados e servidores.
O PROSEG-IA criará uma frente permanente para lidar com riscos de manipulação dos sistemas, além de apoiar projetos voltados à segurança das ferramentas e à capacitação dos órgãos judiciais diante de novos tipos de ataque.
As medidas integram as prioridades da gestão 2025-2027 do CNJ, presidido pelo ministro Edson Fachin, e se somam às ações de cibersegurança desenvolvidas pelo órgão no âmbito do Programa Justiça [+Segura].
A manifestação técnica será submetida ao Plenário do CNJ. O Comitê Nacional de Inteligência Artificial no Judiciário atua na definição de parâmetros para o uso seguro e supervisionado de sistemas de IA pelos tribunais, conforme as diretrizes da Resolução CNJ nº 615/2025.
Foto/crédito: Banco de Imagens/CNJ
Fonte: Agência CNJ de Notícias
