O Superior Tribunal de Justiça (STJ) abriu uma investigação nesta quarta-feira (20) para apurar a utilização de prompts de inteligência artificial com o objetivo de fraudar o sistema eletrônico de petições do STJ. A medida visa coibir tentativas de burlar os filtros de admissibilidade processual.
Sob a determinação do presidente do STJ, ministro Herman Benjamin, foram instaurados um inquérito policial e um procedimento administrativo interno. Ambos os processos têm como foco investigar as supostas tentativas de fraude, atribuídas a advogados e escritórios de advocacia.
Mecanismo da fraude: Prompt Injection
A decisão do tribunal surgiu após a equipe técnica identificar a inserção de petições contendo prompt injection. Este mecanismo é empregado para manipular modelos de inteligência artificial, buscando favorecer determinadas partes no decorrer da tramitação eletrônica de processos.
Tais comandos ocultos são estrategicamente inseridos nas petições com o intuito de compelir o sistema de inteligência artificial a desconsiderar filtros de seleção. Esses filtros, normalmente, barram a admissão de documentos que não preenchem os requisitos básicos de admissibilidade.
O STJ esclarece que seu sistema já possui mecanismos de segurança e "travas" contra a utilização indevida de prompts. Essas barreiras tecnológicas impedem que as ordens fraudulentas sejam efetivamente executadas pela plataforma de recebimento de petições.
Comentários
Para comentar realize o login em sua conta!
Login Cadastre-se