China implementa norma nacional que responsabiliza empresas por promessas feitas por IA no atendimento

Começou a valer na terça (1º) a primeira norma nacional chinesa que organiza a divisão de trabalho entre o atendimento humano e o feito por inteligência artificial. Publicada em maio pela Administração Estatal de Regulação de Mercado, ela proíbe a empresa de descumprir uma promessa afirmando que a resposta da IA não representa a posição da companhia ou que conteúdo de algoritmo não tem valor jurídico.

Parece algo distante, mas que deve se tornar cada vez mais comum no mundo inteiro conforme companhias substituem atendimento humano por bots turbinados por LLMs.

Por lá, a proibição responde a um problema já medido. Em agosto, a Associação Chinesa de Consumidores divulgou que só no primeiro semestre deste ano recebeu 985.928 reclamações, a maioria citando promessas feitas pela IA e negadas depois pela empresa, além da dificuldade de chegar a um atendente e erros factuais em casos como remarcação de passagem.

A norma que passa a valer agora é que, em cenários capazes de gerar confiança razoável, o conteúdo gerado por IAs pode valer como manifestação de vontade do prestador. Além disso, os bots precisarão ser monitorados por um atendente humano e o sistema deve implementar transferência automática nos casos mais difíceis.

Pequim escolheu resolver a disputa por norma técnica, instrumento que não prevê multa e mesmo assim vira referência para juízes, órgãos de defesa do consumidor e contratos. Ela chega antes de qualquer lei geral de inteligência artificial, que a China não tem e não demonstra pressa em aprovar para não frear inovação.

Por trás da disputa existe uma conta de custo, já que um atendente humano sai por mais de ¥ 3.000/mês (cerca de R$ 2.290), enquanto um pacote anual de atendimento automatizado é vendido por cerca de ¥ 10.000 (R$ 7.640). A automação criou uma figura que não existia, um interlocutor que soa humano, inspira confiança mas não é sujeito de direito.

Os tribunais chineses já tinham esbarrado na contradição, e em janeiro a Corte de Internet de Hangzhou julgou o primeiro caso do país sobre alucinação de IA (termo para quando o sistema inventa informação).

Um usuário consultou um aplicativo sobre uma universidade, recebeu dado errado e, ao reclamar, ouviu do sistema que seria indenizado em ¥100 mil (mais de R$ 76 mil). Processou e perdeu porque o tribunal entendeu que a IA não tem personalidade jurídica e não poderia portanto representar a vontade de quem a opera.

Quando a questão começar a pipocar no Brasil, nosso arcabouço estará apenas metade pronto. Isso porque regulamentamos em 2022 uma lei que os SACs mantenham canal aberto 24 horas, oito horas diárias de atendimento telefônico humano e resposta conclusiva em sete dias. Mas o texto não dizia nada sobre o valor do que a máquina promete antes ao usuário.

Essa lacuna caberia ao projeto de lei 2.338, o marco legal da inteligência artificial, que classifica sistemas por grau de risco, cria uma autoridade de supervisão e dedica um capítulo à responsabilidade de quem desenvolve e de quem opera a tecnologia. O texto passou pelo Senado em dezembro de 2024, está na Câmara desde março do ano passado e não tem data para votação.

Até que haja uma resposta, a conduta aplicada tem sido avaliada caso a caso, por meio de sentenças em juizados especiais e instâncias inferiores. Talvez seja o caso de observar o exemplo chinês antes de implementar algo por aqui neste sentido.