OAB/MS suspende advogados por uso de 'prompt injection' em processos com IA
Quick Look
- A OAB/MS suspendeu por 23 dias os advogados Lucas Fernandes Nogueira Brandolis e Matheus Pelzl Ferreira por suposto uso de 'prompt injection' para influenciar sistemas de IA em processos judiciais.
- A defesa alega que as acusações não são reais e que um ex-funcionário é o responsável.
AI-generated summary
Why It Matters
A Ordem dos Advogados do Brasil Seccional Mato Grosso do Sul (OAB/MS) suspendeu o exercício profissional de dois advogados por 23 dias após investigação sobre o uso de 'prompt injection' em processos judiciais.
A Ordem dos Advogados do Brasil Seccional Mato Grosso do Sul — Foto: OAB/MS
A Ordem dos Advogados do Brasil Seccional Mato Grosso do Sul (OAB/MS) suspendeu o exercício profissional dos advogados Lucas Fernandes Nogueira Brandolis e Matheus Pelzl Ferreira por 23 dias, a partir desta quinta-feira (18).
A medida foi tomada após investigação que apura o suposto uso de comandos ocultos, conhecidos como "prompt injection", em petições para influenciar sistemas de inteligência artificial utilizados na análise de processos judiciais. A decisão foi assinada pelo secretário-geral do Tribunal de Ética e Disciplina da OAB/MS, Luiz Renê do Amaral.
A suspensão tem caráter liminar e permanecerá em vigor até o julgamento definitivo do pedido de suspensão preventiva. Segundo a OAB/MS, a medida foi adotada devido à gravidade dos fatos investigados.
Ao fim dos 23 dias, o Tribunal de Ética e Disciplina realizará uma sessão para decidir se a suspensão será mantida, prorrogada ou encerrada. Os advogados podem recorrer da decisão ou buscar medidas na Justiça.
A defesa dos advogados, representada por Raphael Chaia, afirmou ao g1 que eles ainda não foram intimados da decisão e que irão apresentar esclarecimentos e a defesa no momento oportuno. Também afirmou que as acusações não correspondem à realidade.
"Todas as provas, inclusive a confissão do ex-funcionário responsável pela inserção de prompts sem o conhecimento dos integrantes do escritório, que já estavam a disposição das autoridades, serão apresentadas à presidência da OAB/MS", afirmou a defesa.
Entenda o caso
De acordo com a OAB/MS, o Superior Tribunal de Justiça (STJ) identificou, em processos e petições, a presença de "prompt injection", uma técnica que utiliza comandos ocultos em documentos para influenciar sistemas de inteligência artificial (IA).
Após a identificação desses elementos, o STJ abriu um procedimento administrativo para apurar os fatos. Segundo a OAB/MS, a investigação apontou que os advogados teriam criado o mecanismo.
O que é "prompt injection"?
Segundo o STJ, "prompt injection" é uma técnica usada para tentar enganar sistemas de inteligência artificial, especialmente os chamados grandes modelos de linguagem. O método consiste na inserção de comandos ocultos em documentos comuns, como petições e recursos, de forma que não sejam percebidos visualmente por quem lê o texto.
Como esses sistemas analisam textos para compreender o contexto e responder a comandos, instruções ocultas podem ser inseridas em um documento com a intenção de influenciar a análise feita pela IA. Em tese, isso pode levar o sistema a desconsiderar orientações previamente definidas e produzir respostas favoráveis a uma das partes envolvidas.
Veja vídeos de Mato Grosso do Sul:
Open Questions
- Qual será o desfecho do julgamento definitivo?
- Haverá outras punições além da suspensão?
- Como a OAB/MS pretende prevenir futuros casos?
