Imagine fazer a mesma pergunta para uma inteligência artificial duas vezes. Na primeira, sem dizer nada sobre suas preferências políticas. Na segunda, informando que você é de esquerda ou de direita. Segundo um estudo do Instituto de Computação (IC) da Unicamp, a resposta pode mudar de acordo com o posicionamento do usuário.
A pesquisa analisou 21 modelos de linguagem generativa de grande porte, as chamadas LLMs, e identificou que todos apresentaram, em diferentes graus, um comportamento que os pesquisadores chamam de “camaleão ideológico”: quando o usuário demonstra sua posição política, os sistemas alinham suas respostas em direção àquela preferência.
O trabalho, conduzido por Anderson Luis Bento Soares, mestrando do IC, foi publicado na Scientific Reports, da revista Nature. Segundo Zanoni Dias, professor do Instituto de Computação e orientador do estudo, alguns modelos até têm uma leve inclinação para a esquerda ou para a direita, mas, em geral, ficam próximos da neutralidade.
O que chamou a atenção foi essa capacidade dos chats de mudarem de posição conforme a ideologia de quem faz a pergunta. Isso preocupa porque, para os pesquisadores, a IA pode deixar de apresentar perspectivas diferentes e reforçar o que o usuário pensa. Com isso, a pessoa fica menos exposta a informações contrárias, o que pode contribuir para a polarização e o extremismo.
O experimento foi construído especificamente para o contexto político brasileiro. Os pesquisadores criaram 56 pares de afirmações sobre sete temas. Em cada par, havia uma frase identificada como alinhada à esquerda e outra à direita – ou seja, 112 frases. Os modelos precisavam dizer se concordavam ou discordavam das afirmações.
Os temas analisados foram: bem-estar social; segurança; instituições democráticas; meio ambiente; economia; educação e cultura; corrupção e justiça.
As mesmas afirmações foram apresentadas aos modelos em três situações: sem nenhuma informação sobre a posição política do usuário; dizendo que o usuário era de esquerda; dizendo que o usuário era de direita.
Cada resposta era classificada em uma escala de cinco pontos, de “discordo fortemente” a “concordo fortemente”. Ao todo, foram analisadas 47.376 respostas.
O resultado foi consistente: quando o usuário era apresentado como alguém de esquerda, os modelos se deslocavam em direção às afirmações associadas à esquerda. Quando o usuário era apresentado como de direita, ocorria o movimento contrário. Isso ocorria mesmo sem que os pesquisadores dissessem se a resposta anterior havia agradado ou desagradado.
O comportamento também variou conforme o tema. Economia e segurança foram os assuntos em que os pesquisadores observaram os maiores deslocamentos ideológicos. Já instituições democráticas e corrupção e justiça apresentaram mudanças menores.
Zanoni afirma que é difícil determinar exatamente por que isso acontece, pois os modelos funcionam como uma espécie de “caixa-preta”. “Interpretação, é difícil ter uma explicação no sentido que as próprias RMMs são meio que caixa preta, no sentido que é difícil deduzir por que ela diz alguma coisa.”
A análise dos estudiosos, porém, é que temas com maior espaço para disputa política podem permitir mudanças mais expressivas, enquanto assuntos considerados menos controversos apresentam um comportamento mais estável.
Para entender esse fenômeno de adaptação, os pesquisadores chamaram o comportamento de “camaleão ideológico”. No estudo, a comparação é usada para descrever modelos que não mantêm a mesma posição diante de uma questão política.
Dessa forma, assim como um camaleão que muda de cor de acordo com o ambiente em que está, eles podem mudar a resposta dependendo da ideologia atribuída à pessoa com quem estão conversando.
A preocupação dos pesquisadores é que a adaptação das respostas produza, nas conversas com a IA, algo parecido com o que acontece em ambientes digitais personalizados, como redes sociais, onde algoritmos podem selecionar conteúdos a partir dos nossos interesses e comportamentos.
Com isso, uma pessoa pode passar a receber cada vez mais conteúdos semelhantes aos que já consome. Nas ferramentas de IA, o mecanismo observado no estudo é diferente, mas o possível efeito é semelhante: o usuário pode receber de volta argumentos que confirmam suas próprias convicções.
Para Zanoni, isso pode ser especialmente problemático quando a concordância passa a substituir a apresentação de informações que permitam ao usuário questionar a própria posição. “Então, basicamente, a gente cria essa coisa de câmera de eco, que a gente começa a ouvir a você de volta.”
“Isso é um comportamento muito perigoso nesse contexto político, que obviamente vai levar a extremismos. Você cada vez mais concorda com a própria voz e está menos disposto a ver se tem outras opiniões, se elas estão certas ou erradas.”
O artigo não mediu diretamente se as pessoas que usam esses sistemas ficam mais polarizadas. Os pesquisadores analisaram as respostas dos modelos, e não mudanças posteriores nas opiniões dos usuários. Essa é uma das limitações apontadas no próprio estudo.
O grupo da Unicamp já trabalha em uma segunda etapa. A proposta é testar maneiras de reduzir a tendência de os modelos mudarem de posição conforme a ideologia atribuída ao usuário. Uma das estratégias estudadas é fornecer informações factuais adicionais sobre o assunto antes de pedir a resposta da IA.
Segundo Zanoni, esse segundo trabalho já foi aceito em uma conferência internacional e será apresentado em novembro. A ideia, portanto, é passar de uma primeira pergunta — “isso acontece?” — para outra — “como fazer com que aconteça menos?”.
Para Zanoni, entretanto, a questão não se limita à eleição. “A gente está em um ano super importante em relação a isso, mas em todos os outros contextos esse foi o primeiro estudo que a gente viu desse tipo focado em estudo político particularmente no contexto político brasileiro.”
A preocupação é que uma ferramenta criada para responder de maneira personalizada possa acabar oferecendo uma resposta cada vez mais próxima daquilo em que ele já acredita. E, para quem usa IA como fonte de informação, isso torna ainda mais importante não depender de uma única resposta ou de uma única ferramenta.
