O Superior Tribunal de Justiça (STJ) iniciou uma investigação formal para apurar o uso de inteligência artificial (IA) com o objetivo de manipular o sistema eletrônico de petições da corte. A determinação, expedida pelo presidente do tribunal, Herman Benjamin, abrange tanto um inquérito policial quanto um procedimento administrativo interno.
O foco da apuração recai sobre supostas tentativas de fraude orquestradas por advogados e escritórios de advocacia. A ação foi motivada pela identificação, por parte da equipe técnica do STJ, de petições que continham a técnica conhecida como ‘prompt injection’. Esse método visa enganar modelos de IA, alterando seu comportamento para beneficiar determinadas partes em processos judiciais eletrônicos.
De acordo com as informações divulgadas pelo STJ, os comandos ocultos inseridos nas petições têm como propósito forçar o sistema de IA a desconsiderar filtros de segurança. Esses filtros são essenciais para garantir a admissibilidade de documentos e impedir que petições sem os requisitos legais básicos avancem no andamento processual.
O tribunal ressaltou que seu sistema já possui mecanismos de proteção contra a exploração de prompts. Tais salvaguardas foram desenvolvidas para impedir que as instruções maliciosas inseridas nas petições sejam efetivamente executadas pela plataforma responsável pelo recebimento dos documentos.