O Tribunal de Justiça da Bahia (TJBA) identificou uma tentativa de manipulação de ferramentas de Inteligência Artificial (IA) durante a tramitação de um pedido de Habeas Corpus Criminal. Segundo a análise técnica da Corte, o documento apresentado pela defesa continha instruções ocultas destinadas a influenciar o processamento automatizado do pedido, em uma técnica conhecida como prompt injection.
O caso foi analisado pela 2ª Turma da Primeira Câmara Criminal, em julgamento realizado no plenário virtual. A área técnica do TJBA constatou que o arquivo digital utilizado no pedido apresentava uma camada textual imperceptível na visualização ordinária do PDF, contendo comandos para que o Habeas Corpus fosse deferido caso a análise fosse realizada por uma ferramenta de Inteligência Artificial.
O documento foi protocolado por uma advogada que atua no Mato Grosso do Sul. Diante da constatação, o colegiado determinou o encaminhamento de um ofício à Ordem dos Advogados do Brasil – Seccional Mato Grosso do Sul (OAB-MS) para eventual instauração de procedimento disciplinar. Uma cópia do material também foi encaminhada ao Ministério Público da Bahia (MPBA) para apuração de possíveis ilícitos.
TJBA identifica mecanismo de prompt injection
De acordo com a Diretoria de Modernização do TJBA, a estrutura identificada no arquivo caracteriza um mecanismo deliberado de prompt injection. A técnica consiste na inserção de instruções em textos, arquivos ou outros conteúdos processados por sistemas de IA com a finalidade de interferir nas orientações originalmente estabelecidas para o sistema.
No caso analisado pela Corte, as instruções não estavam disponíveis de maneira evidente na leitura convencional do documento em PDF. A análise técnica identificou, contudo, conteúdo textual incorporado ao arquivo com comandos relacionados ao resultado pretendido para o pedido de Habeas Corpus.
O relator do processo, desembargador Pedro Guerra, registrou no voto que a área técnica certificou a existência de um mecanismo destinado a interferir no fluxo de processamento dos algoritmos de IA utilizados pelo Poder Judiciário. A constatação levou o colegiado a adotar providências junto às instituições responsáveis pela fiscalização profissional e pela apuração de possíveis ilícitos.
Corte mantém supervisão humana no uso de Inteligência Artificial
O TJBA informou que o emprego de ferramentas de Inteligência Artificial generativa na instituição está submetido a requisitos relacionados à segurança da informação, proteção de dados pessoais e governança, conforme a legislação aplicável.
A Corte também ressalta que a utilização de sistemas de IA não substitui a atuação dos magistrados. Os processos submetidos a ferramentas tecnológicas permanecem sujeitos à supervisão e revisão humana, cabendo aos magistrados a responsabilidade pelo conteúdo das decisões judiciais.
Em julho, o Centro de Inteligência da Justiça Estadual (CIJEBA) aprovou uma nota técnica destinada a ampliar o conhecimento dos magistrados sobre os riscos associados ao prompt injection. O documento também apresenta orientações para identificação, repressão e prevenção desse tipo de mecanismo em documentos submetidos aos sistemas utilizados pelo Judiciário.
Habeas Corpus foi negado pela Primeira Câmara Criminal
No processo em que o mecanismo foi identificado, a 2ª Turma da Primeira Câmara Criminal do TJBA negou o pedido de Habeas Corpus apresentado em favor de D.A.B. O acusado foi indiciado pela suposta prática de crimes de homicídio qualificado, sequestro e cárcere privado, adulteração de sinal identificador de veículo automotor e organização criminosa armada.
A prisão preventiva havia sido decretada pela Vara Criminal de Iguaí. Ao analisar o pedido, o colegiado considerou que a decisão de primeira instância estava fundamentada em elementos fáticos concretos extraídos do procedimento investigatório.
O relator também registrou que as medidas cautelares alternativas à prisão foram consideradas inadequadas e insuficientes diante das circunstâncias apresentadas no processo, especialmente para preservar a ordem pública, assegurar a regularidade da instrução penal e garantir a eficácia de eventual decisão condenatória.
Encaminhamento para apurações
Além da decisão sobre a prisão preventiva, o episódio envolvendo o documento digital resultou em providências institucionais específicas. O material foi encaminhado à OAB-MS, que poderá avaliar a adoção de medidas no âmbito disciplinar, e ao MPBA, responsável pela análise de eventuais repercussões na esfera penal.
A identificação do conteúdo oculto ocorreu no contexto da utilização de recursos tecnológicos pelo TJBA. O episódio também levou a Corte a destacar os procedimentos de segurança adotados para o uso de IA e a necessidade de mecanismos capazes de detectar tentativas de interferência nos sistemas.
O caso evidencia, no âmbito do Judiciário baiano, um dos desafios associados à utilização de Inteligência Artificial na análise e processamento de documentos jurídicos: além da revisão humana dos resultados, os sistemas precisam considerar mecanismos de segurança capazes de identificar instruções inseridas de forma não convencional nos arquivos submetidos ao processamento automatizado.








Deixe um comentário