Tecnologia

Comando oculto em laudo pericial chama atenção do TJRN por possível influência em inteligência artificial

Em apuração ?

Descoberta de comando invisível no processo levanta questões sobre segurança e transparência no Judiciário

Laudo pericial com texto invisível sendo copiado para outro programa
Imagem: G1

Um Laudo pericial no Tribunal de Justiça do Rio Grande do Norte revelou um comando escondido, que poderia influenciar aplicações de inteligência artificial usadas no tribunal. Caso ainda será investigado.

Uma descoberta incomum no âmbito do Tribunal de Justiça do Rio Grande do Norte (TJRN) ganhou destaque nesta semana ao revelar a existência de um comando invisível inserido em um laudo pericial. Segundo informações apuradas por uma fonte do próprio tribunal, o comando foi detectado por um advogado durante uma análise do documento, quando ele notou uma instrução oculta no arquivo do processo.

Segundo relato, o texto, escrito em branco sobre um fundo também branco, não era visível na leitura convencional do documento. Contudo, ao copiar o conteúdo para outro programa, como o Word, o comando se tornava perceptível. A instrução tinha por objetivo influenciar ferramentas de inteligência artificial, orientando-as a concordar com as conclusões do perito que elaborou o laudo.

De acordo com o especialista em inteligência artificial, Victor Ferreira, esse tipo de técnica é conhecida como 'prompt injection'. Trata-se de inserir comandos dissimulados em textos para direcionar respostas de sistemas de IA. Ferreira explica que enquanto o comando permanece invisível ao olho humano, a ferramenta de inteligência artificial pode interpretá-lo e segui-lo, o que levanta preocupações sobre a integridade e a imparcialidade do julgamento.

A descoberta ocorre em um momento em que o próprio Conselho Nacional de Justiça (CNJ) vem orientando o Judiciário a reforçar a segurança no uso de inteligência artificial, incluindo regras que garantam supervisão humana, transparência e mecanismos de segurança, especialmente contra ataques como o prompt injection. Ainda não há confirmação oficial de quem teria inserido o comando no laudo ou qual seu objetivo, e o tribunal não utilizou o documento para embasar votos ou decisões, segundo a fonte.

Publicidade

O caso está sendo apurado pela 3ª Câmara Cível do TJRN, que deverá investigar quem foi o responsável pela inserção do comando oculto e quais seriam as possíveis consequências de sua utilização. A existência de comandos invisíveis em documentos virtuais evidencia os riscos associados ao avanço do uso de inteligência artificial no Judiciário, especialmente sem mecanismos rigorosos de controle.

Até o momento, o tribunal não se pronunciou oficialmente sobre o fato, e outros detalhes ainda não foram confirmados. No entanto, o episódio reforça a necessidade de atenção às vulnerabilidades da tecnologia e à transparência nos processos judiciais em uma era cada vez mais digital e automatizada.

Publicidade

O que sabemos?

  • O TJRN descobriu um comando invisível em um laudo pericial.
  • O comando foi detectado após denúncia de um advogado.
  • O texto oculto está em formato que só é visível ao copiar o arquivo para outro programa.
  • Especialistas explicam que a técnica é conhecida como 'prompt injection'.
  • A investigação está em andamento para identificar os responsáveis.

Fontes

  • G1 imprensa
Publicidade