OAB/MS suspende advogados por uso de 'prompt injection' em processos com IA

A Ordem dos Advogados do Brasil Seccional Mato Grosso do Sul — Foto: OAB/MS

A Ordem dos Advogados do Brasil Seccional Mato Grosso do Sul (OAB/MS) suspendeu o exercício profissional dos advogados Lucas Fernandes Nogueira Brandolis e Matheus Pelzl Ferreira por 23 dias, a partir desta quinta-feira (18).

A medida foi tomada após investigação que apura o suposto uso de comandos ocultos, conhecidos como "prompt injection", em petições para influenciar sistemas de inteligência artificial utilizados na análise de processos judiciais. A decisão foi assinada pelo secretário-geral do Tribunal de Ética e Disciplina da OAB/MS, Luiz Renê do Amaral.

A suspensão tem caráter liminar e permanecerá em vigor até o julgamento definitivo do pedido de suspensão preventiva. Segundo a OAB/MS, a medida foi adotada devido à gravidade dos fatos investigados.

Ao fim dos 23 dias, o Tribunal de Ética e Disciplina realizará uma sessão para decidir se a suspensão será mantida, prorrogada ou encerrada. Os advogados podem recorrer da decisão ou buscar medidas na Justiça.

A defesa dos advogados, representada por Raphael Chaia, afirmou ao g1 que eles ainda não foram intimados da decisão e que irão apresentar esclarecimentos e a defesa no momento oportuno. Também afirmou que as acusações não correspondem à realidade.

"Todas as provas, inclusive a confissão do ex-funcionário responsável pela inserção de prompts sem o conhecimento dos integrantes do escritório, que já estavam a disposição das autoridades, serão apresentadas à presidência da OAB/MS", afirmou a defesa.

Entenda o caso

De acordo com a OAB/MS, o Superior Tribunal de Justiça (STJ) identificou, em processos e petições, a presença de "prompt injection", uma técnica que utiliza comandos ocultos em documentos para influenciar sistemas de inteligência artificial (IA).

Após a identificação desses elementos, o STJ abriu um procedimento administrativo para apurar os fatos. Segundo a OAB/MS, a investigação apontou que os advogados teriam criado o mecanismo.

O que é "prompt injection"?

Segundo o STJ, "prompt injection" é uma técnica usada para tentar enganar sistemas de inteligência artificial, especialmente os chamados grandes modelos de linguagem. O método consiste na inserção de comandos ocultos em documentos comuns, como petições e recursos, de forma que não sejam percebidos visualmente por quem lê o texto.

Como esses sistemas analisam textos para compreender o contexto e responder a comandos, instruções ocultas podem ser inseridas em um documento com a intenção de influenciar a análise feita pela IA. Em tese, isso pode levar o sistema a desconsiderar orientações previamente definidas e produzir respostas favoráveis a uma das partes envolvidas.

Veja vídeos de Mato Grosso do Sul: