Justiça identifica tentativa de manipular IA, mas mantém absolvição em MS

A 5ª Turma do TRF3 (Tribunal Regional Federal da 3ª Região) manteve a absolvição de quatro acusados de estelionato em Campo Grande, mesmo após identificar comandos ocultos em documentos da defesa que tentavam manipular a ferramenta de inteligência artificial utilizada pelo Judiciário. Em decisão de 16 de outubro, o desembargador federal Paulo Gustavo Guedes Fontes concluiu que os mecanismos de segurança do sistema impediram a interferência e que a tentativa não alterou o julgamento nem a tramitação deste processo específico, que teve como réu o conhecido estelionatário Selmo Machado da Silva , preso pela invasão hacker de sistemas do Judiciário em outros procedimentos.

Além de Selmo, o caso envolve Marcos Recaldes Aveiro, Sidney Machado da Silva e Diego Guilherme Rodrigues, acusados pelo MPF (Ministério Público Federal) de participar de uma fraude com cheque no valor de R$ 178.569,67, em março de 2014. A Justiça Federal absolveu os quatro por insuficiência de provas, e o tribunal manteve a decisão ao rejeitar um recurso da acusação. A tentativa de manipulação da decisão veio à tona por iniciativa da própria defesa. O advogado Matheus Pelzl Ferreira informou ao tribunal que identificou uma falha de controle interno no escritório, envolvendo a inserção de comandos ocultos em modelos de documentos utilizados nos processos.

Matheus já falou ao Campo Grande News sobre isso aqui e aqui . Segundo a comunicação apresentada à Justiça, um colaborador teria incluído as instruções sem autorização dos sócios. Como o escritório utilizava os mesmos modelos em diferentes ações, os comandos acabaram reproduzidos automaticamente em outras peças processuais. A técnica é conhecida como prompt injection, ou injeção de comandos. Ela consiste em inserir instruções em conteúdos que serão analisados por sistemas de inteligência artificial, na tentativa de fazer com que a ferramenta desconsidere suas regras originais e execute determinadas orientações.

No caso analisado pelo TRF3, os comandos buscavam interferir na atuação da ferramenta de IA especialmente na avaliação de questões relacionadas à admissibilidade processual. A SETI (Secretaria de Tecnologia da Informação) do tribunal examinou os documentos e confirmou a presença das instruções ocultas em embargos, alegações finais e um pedido de acesso à cópia integral de conteúdo de mídia digital. A análise técnica, entretanto, concluiu que as proteções implementadas no sistema impediram a alteração das instruções de funcionamento da inteligência artificial.

Os comandos também não interferiram na análise processual ou na avaliação dos desembargadores. Absolvição mantida – Ao analisar o episódio, Paulo Fontes concluiu que a irregularidade não justificava anular o processo ou modificar a decisão que manteve a absolvição. O magistrado fundamentou o entendimento na ausência de prejuízo concreto. Segundo ele, a tentativa não conseguiu alterar as regras de funcionamento da ferramenta, influenciar o sistema de triagem ou interferir na convicção dos julgadores.

O MPF também se manifestou pela desnecessidade de novas providências no processo criminal, justamente porque a tentativa de manipulação não produziu efeitos sobre o julgamento. O desembargador considerou ainda que a própria defesa comunicou espontaneamente o problema, circunstância que levou em conta ao avaliar a situação processual. Com isso, o tribunal decidiu preservar o resultado do julgamento anterior, que rejeitou o recurso do Ministério Público e manteve a absolvição dos quatro acusados.

Fonte: Campo Grande News