STJ investiga uso de inteligência artificial para fraudar petições

O Superior Tribunal de Justiça (STJ) instaurou, nesta quarta-feira (20), uma investigação crucial para apurar o uso indevido de prompts de inteligência artificial com o objetivo de fraudar o sistema eletrônico de petições da corte. A medida visa combater tentativas de burlar os mecanismos de admissibilidade de documentos, garantindo a integridade dos processos judiciais.

Por determinação do presidente do STJ, ministro Herman Benjamin, foram abertos um inquérito policial e um procedimento administrativo interno. O foco é investigar as supostas fraudes, que teriam sido orquestradas por advogados e escritórios de advocacia, comprometendo a lisura do sistema.

Esta ação do tribunal surge após a equipe técnica do STJ detectar a inserção de petições contendo "prompt injection". Esse mecanismo sofisticado é empregado para manipular modelos de inteligência artificial, buscando favorecer indevidamente partes envolvidas no trâmite eletrônico de ações judiciais.

Mecanismo de manipulação

Esses comandos ocultos são estrategicamente embutidos nas petições. O objetivo é tentar induzir o sistema de IA a desconsiderar filtros de seleção essenciais, que, por exemplo, bloqueiam a admissão de documentos que não atendem aos requisitos básicos de admissibilidade jurídica.

O STJ, contudo, esclarece que seu sistema já possui mecanismos de segurança robustos. Essas "travas" foram projetadas para detectar e impedir que os comandos maliciosos de prompt injection sejam executados pela plataforma de recebimento das petições, protegendo a integridade dos dados.