TJBA identifica tentativa de manipulação de IA em pedido de Habeas Corpus e envia caso à OAB-MS e ao MPBA

O Tribunal de Justiça da Bahia (TJBA) identificou uma tentativa de manipulação de ferramentas de Inteligência Artificial (IA) durante a tramitação de um pedido de Habeas Corpus Criminal. Segundo a análise técnica da Corte, o documento apresentado pela defesa continha instruções ocultas destinadas a influenciar o processamento automatizado do pedido, em uma técnica conhecida como prompt injection.

O caso foi analisado pela 2ª Turma da Primeira Câmara Criminal, em julgamento realizado no plenário virtual. A área técnica do TJBA constatou que o arquivo digital utilizado no pedido apresentava uma camada textual imperceptível na visualização ordinária do PDF, contendo comandos para que o Habeas Corpus fosse deferido caso a análise fosse realizada por uma ferramenta de Inteligência Artificial.

O documento foi protocolado por uma advogada que atua no Mato Grosso do Sul. Diante da constatação, o colegiado determinou o encaminhamento de um ofício à Ordem dos Advogados do Brasil – Seccional Mato Grosso do Sul (OAB-MS) para eventual instauração de procedimento disciplinar. Uma cópia do material também foi encaminhada ao Ministério Público da Bahia (MPBA) para apuração de possíveis ilícitos.

TJBA identifica mecanismo de prompt injection

De acordo com a Diretoria de Modernização do TJBA, a estrutura identificada no arquivo caracteriza um mecanismo deliberado de prompt injection. A técnica consiste na inserção de instruções em textos, arquivos ou outros conteúdos processados por sistemas de IA com a finalidade de interferir nas orientações originalmente estabelecidas para o sistema.

No caso analisado pela Corte, as instruções não estavam disponíveis de maneira evidente na leitura convencional do documento em PDF. A análise técnica identificou, contudo, conteúdo textual incorporado ao arquivo com comandos relacionados ao resultado pretendido para o pedido de Habeas Corpus.

O relator do processo, desembargador Pedro Guerra, registrou no voto que a área técnica certificou a existência de um mecanismo destinado a interferir no fluxo de processamento dos algoritmos de IA utilizados pelo Poder Judiciário. A constatação levou o colegiado a adotar providências junto às instituições responsáveis pela fiscalização profissional e pela apuração de possíveis ilícitos.

Corte mantém supervisão humana no uso de Inteligência Artificial

O TJBA informou que o emprego de ferramentas de Inteligência Artificial generativa na instituição está submetido a requisitos relacionados à segurança da informação, proteção de dados pessoais e governança, conforme a legislação aplicável.

A Corte também ressalta que a utilização de sistemas de IA não substitui a atuação dos magistrados. Os processos submetidos a ferramentas tecnológicas permanecem sujeitos à supervisão e revisão humana, cabendo aos magistrados a responsabilidade pelo conteúdo das decisões judiciais.

Em julho, o Centro de Inteligência da Justiça Estadual (CIJEBA) aprovou uma nota técnica destinada a ampliar o conhecimento dos magistrados sobre os riscos associados ao prompt injection. O documento também apresenta orientações para identificação, repressão e prevenção desse tipo de mecanismo em documentos submetidos aos sistemas utilizados pelo Judiciário.

Habeas Corpus foi negado pela Primeira Câmara Criminal

No processo em que o mecanismo foi identificado, a 2ª Turma da Primeira Câmara Criminal do TJBA negou o pedido de Habeas Corpus apresentado em favor de D.A.B. O acusado foi indiciado pela suposta prática de crimes de homicídio qualificado, sequestro e cárcere privado, adulteração de sinal identificador de veículo automotor e organização criminosa armada.

A prisão preventiva havia sido decretada pela Vara Criminal de Iguaí. Ao analisar o pedido, o colegiado considerou que a decisão de primeira instância estava fundamentada em elementos fáticos concretos extraídos do procedimento investigatório.

O relator também registrou que as medidas cautelares alternativas à prisão foram consideradas inadequadas e insuficientes diante das circunstâncias apresentadas no processo, especialmente para preservar a ordem pública, assegurar a regularidade da instrução penal e garantir a eficácia de eventual decisão condenatória.

Encaminhamento para apurações

Além da decisão sobre a prisão preventiva, o episódio envolvendo o documento digital resultou em providências institucionais específicas. O material foi encaminhado à OAB-MS, que poderá avaliar a adoção de medidas no âmbito disciplinar, e ao MPBA, responsável pela análise de eventuais repercussões na esfera penal.

A identificação do conteúdo oculto ocorreu no contexto da utilização de recursos tecnológicos pelo TJBA. O episódio também levou a Corte a destacar os procedimentos de segurança adotados para o uso de IA e a necessidade de mecanismos capazes de detectar tentativas de interferência nos sistemas.

O caso evidencia, no âmbito do Judiciário baiano, um dos desafios associados à utilização de Inteligência Artificial na análise e processamento de documentos jurídicos: além da revisão humana dos resultados, os sistemas precisam considerar mecanismos de segurança capazes de identificar instruções inseridas de forma não convencional nos arquivos submetidos ao processamento automatizado.


Descubra mais sobre Jornal Grande Bahia (JGB)

Assine para receber nossas notícias mais recentes por e-mail.


Avatar de Redação do Jornal Grande Bahia

Valorize o jornalismo crítico, plural, rigoroso e comprometido com a verdade factual, a democracia, o Estado de Direito e o interesse público. Escolha o Jornal Grande Bahia (JGB) como fonte preferida no Google: clique aqui.

Sua confiança também fortalece nosso trabalho: avalie o JGB

Selecione o JGB e receba nossas notícias com mais destaque.


Deixe um comentário


Banner de Carlos Augusto, diretor do Jornal Grande Bahia.
O Jornal Grande Bahia completa 19 anos de atuação contínua no ambiente digital, consolidando-se como referência do jornalismo independente na Bahia. Fundado em 2007, o veículo construiu uma trajetória marcada por rigor editorial, pluralidade temática e compromisso com a informação pública, aliando tradição jornalística, inovação tecnológica e participação qualificada no debate democrático.
Banner da Jads Foto.
Banner de Lula Fotografia.
Banner da RFI.
Banner com tema Assine o JGB no Google.