Advogados usam 'prompt injection' em processo para influenciar IA

OAB RO Ordem dos Advogados do Brasil em Porto Velho Rondônia — Foto: OAB-RO/Divulgação

O “prompt injection” consiste na inserção de comandos ocultos em documentos com o objetivo de interferir no funcionamento de sistemas de IA. Esses comandos podem alterar respostas, interpretações e resumos gerados por ferramentas automatizadas.

Após realizar a bariátrica, o paciente acionou a Justiça de Rondônia para que o plano de saúde cobrisse um procedimento reparador. Na petição inicial, foram inseridos comandos ocultos que orientavam a não classificação das cirurgias como estéticas e o reconhecimento do caso como de urgência médica.

Prompt usando em petição em processo do TJ-RO — Foto: TJ-RO/Reprodução/Sentença

LEIA TAMBÉM:

Segundo o TJRO, a prática teria sido utilizada para tentar influenciar ferramentas de inteligência artificial que poderiam ser usadas na análise do processo.

De acordo com a OAB-RO, foi aberto um procedimento ético-disciplinar para apurar o caso. A entidade informou que o afastamento foi baseado no poder geral de cautela, previsto para situações de excepcional gravidade, e destacou que a medida é preventiva e não representa julgamento definitivo. A decisão de afastamento ainda será analisada pelo Conselho Seccional.

Vídeos em alta no g1:

A OAB também informou que pretende discutir, de forma institucional, regras para o uso de inteligência artificial na advocacia.

O presidente da OAB-RO, Márcio Nogueira, afirmou que apenas o advogado que assinou digitalmente o documento foi afastado. Ele explicou ainda que, como o fato ocorreu no âmbito da Justiça de Rondônia, a apuração disciplinar é de competência da seccional do estado.

Decisão da Justiça

Na decisão, o juiz Danilo Augusto Kanthack Paccini, da 2ª Vara Cível de Porto Velho, afirmou que esconder comandos no documento vai contra os deveres de lealdade e boa-fé no processo judicial.

Além de negar o pedido de liminar do paciente, o juiz Danilo Augusto Kanthack Paccini aplicou uma multa de R$ 10 mil ao paciente por má-fé. Ele explica os advogados não podem receber a multa direta, mas o cliente pode cobrar reembolso desse prejuízo dos advogados em uma ação.

O juiz também afirmou que não poderia punir diretamente os advogados envolvidos no caso. Por isso, determinou o envio de ofícios à OAB de Rondônia, São Paulo e Paraná para que a conduta dos profissionais seja investigada.

Como a irregularidade foi descoberta?

A suspeita surgiu após os advogados da operadora de saúde informarem à Justiça que encontraram um trecho escondido no documento apresentado pela defesa do paciente.

Depois do alerta, o juiz analisou o arquivo e confirmou a existência do texto oculto. Segundo a decisão, o trecho estava no fim da petição inicial, depois da assinatura dos advogados, em fonte muito pequena e na cor branca sobre fundo branco, o que dificultava sua visualização em uma leitura normal.

O que dizem os advogados?

A decisão da Justiça de Rondônia cita os advogados Rodrigo Eduardo Batista Leite e Carla Simone Grecco como responsáveis pela assinatura da petição. Os dois são inscritos na OAB de São Paulo, e Rodrigo também tem registro na OAB do Paraná.

Ao g1, a advogada Carla Simone Grecco, que elaborou a petição inicial, afirmou que não sabia da existência dos comandos relacionados à inteligência artificial encontrados no documento.

Segundo ela, os documentos produzidos em sua atuação profissional eram revisados e protocolados pelo escritório Leite Advogados, onde atua como advogada associada, já que ainda estava no início da carreira.

“Não inseri, não determinei a inserção, não revisei tecnicamente e não tinha ciência da presença desses comandos na versão protocolada da petição. O protocolo eletrônico do documento foi realizado por outro patrono", declarou.

A advogada também afirmou que a investigação deve analisar a responsabilidade individual de cada profissional e disse estar à disposição da OAB para prestar esclarecimentos e colaborar com as apurações.

Rodrigo Eduardo Batista Leite foi procurado pelo g1, mas não se manifestou até a última atualização desta reportagem.

Ops!