O Superior Tribunal de Justiça (STJ) anunciou nesta quarta-feira (20) a abertura de uma investigação para esclarecer o emprego de inteligência artificial (IA) com o objetivo de manipular o sistema eletrônico de petições da corte.
A decisão, oficializada pelo presidente do STJ, Herman Benjamin, envolve a instauração de um inquérito policial e um procedimento administrativo interno. O foco é apurar supostas tentativas de fraude orquestradas por advogados e bancas de advocacia.
A ação do tribunal foi motivada pela identificação, por parte de sua equipe técnica, de petições que continham a técnica conhecida como “prompt injection”. Esse método visa enganar modelos de IA, influenciando o andamento de processos eletrônicos em favor de determinadas partes.
Os “prompts” ocultos, inseridos nas petições, buscariam forçar o sistema de IA a desconsiderar filtros de seleção. Tais filtros são essenciais para impedir, por exemplo, a aceitação de documentos que não atendam aos requisitos mínimos de admissibilidade processual.
O STJ ressalta que seu sistema já conta com mecanismos de segurança para coibir o uso indevido de prompts, impedindo que comandos maliciosos sejam executados pela plataforma de recebimento de petições.