Quando o ChatGPT foi lançado, pesquisadores em Pequim testaram sua capacidade de lidar com problemas de língua chinesa. Suas reações aos resultados dos testes foram intrigantes.
O chatbot descreve a ex-estrela da NBA Yao Ming como a primeira mulher chinesa a jogar basquete profissional nos Estados Unidos. Também confunde duas obras-primas da literatura clássica chinesa - "Viagem ao Ocidente" e "Um Sonho de Mansões Vermelhas" - com dois séculos de diferença.
Pesquisadores do Instituto de Tecnologia de Pequim, que publicaram suas descobertas em 2023, também escreveram que o ChatGPT gerou uma grande quantidade de “comentários tendenciosos contra a China” e “não evita ou se recusa a responder a questões políticas sobre a China”.
O ChatGPT foi atualizado várias vezes desde então e não está claro como os resultados teriam sido diferentes. Mas estes exemplos apontam para uma preocupação central na China, à medida que procura tornar-se uma potência de IA: os sistemas de IA que moldarão o futuro estão a ser treinados em conjuntos de dados compostos principalmente por inglês e refletem o que a China vê como pensamento de estilo ocidental.
Analistas dizem que o desequilíbrio é também uma fraqueza estratégica para o Partido Comunista Chinês porque significa que as opiniões ocidentais têm maior probabilidade de prevalecer quando se trata de questões como os direitos humanos e o estatuto de Taiwan, a ilha autónoma reivindicada por Pequim.
Para colmatar esta lacuna e construir ferramentas de IA mais poderosas, Pequim espera tornar-se um importante fornecedor de dados – grandes quantidades de textos, imagens e vídeos – utilizados para treinar sistemas de IA em todo o mundo.
No início deste ano, a Administração Nacional de Dados revelou um plano para transformar a China numa potência de dados até ao final de 2028. O plano propõe a criação de conjuntos de dados de “alta qualidade” em mais de duas dezenas de áreas estratégicas, incluindo investigação científica, produção industrial e veículos autónomos.
O plano prevê que a China partilhe os seus conjuntos de dados com o mundo. Esta medida foi reforçada pelo compromisso da China, na Conferência Mundial de Inteligência Artificial, realizada no mês passado, em Xangai, de partilhar dados para ajudar dezenas de países em desenvolvimento participantes a construir os seus próprios sistemas de IA. Além disso, a China divulgou grandes quantidades de dados compilados por laboratórios governamentais e meios de comunicação estatais para download global.
Os analistas dizem que este objectivo tem dois aspectos: primeiro, atrair mais utilizadores para a pista de inteligência artificial da China e, segundo, reduzir a lacuna com os Estados Unidos no acesso a dados de formação de alta qualidade - o que Pequim acredita estar a ajudar os Estados Unidos a manter a sua posição de liderança.
“A competição na era da inteligência artificial não é apenas uma competição por modelos e poder computacional, mas também uma competição pelo fornecimento de dados de alta qualidade”, escreveu Yu Xiaohui, presidente da Academia Chinesa de Tecnologia da Informação e Comunicações, uma agência estatal, num artigo publicado no site da Administração Nacional de Dados no mês passado.
A corrida por melhores dados de treinamento
Sob o líder supremo Xi Jinping, Pequim identificou a inteligência artificial como uma tecnologia estratégica fundamental necessária para competir com os Estados Unidos e reanimar a economia chinesa. Para fazer isso, os laboratórios chineses precisarão de dados cada vez mais sofisticados.
Superficialmente, isso não deveria ser um problema. A China tem uma vasta quantidade de dados gerados a partir do seu enorme equipamento de vigilância governamental e centenas de milhões de utilizadores que utilizam as maiores plataformas tecnológicas do país. No entanto, estes dados estão fragmentados e bloqueados em “silos de dados” em diferentes departamentos e empresas.
O resultado é que os laboratórios chineses lutam para encontrar dados úteis suficientes para os seus modelos, disse Lu Xiaomeng, diretor da consultoria de gestão de risco Eurasia Group. Essa é uma das razões pelas quais eles dependem fortemente de um processo chamado “destilação”, no qual os pesquisadores coletam dados de sistemas poderosos e os utilizam para construir seus próprios modelos. (Empresas norte-americanas como a Anthropic acusam os seus rivais chineses de copiarem injustamente a sua tecnologia.)
“Resolver os obstáculos aos fluxos domésticos de dados é uma prioridade máxima para a China”, disse Lu Xiaomeng. No seu plano, a Agência Nacional de Dados disse que espera quebrar estes silos para que o governo, as empresas e o meio académico possam partilhar dados.
Em contraste, os Estados Unidos não enfrentam uma crise de dados tão grave. Provedores de dados como Mercor e Scale AI não apenas contratam pessoas para rotular imagens de carros ou outros objetos para reconhecimento pelo software de IA, mas também contratam matemáticos para rotular processos de prova e advogados para rotular documentos jurídicos para ajudar a melhorar a sofisticação dos modelos de IA.
Para recuperar o atraso, o plano da Administração Nacional de Dados exige que a China avance para os mesmos dados de “alto valor”, passando da anotação manual barata para a “anotação de dados especializados”. Ele até apela às universidades para que ofereçam cursos de anotação de dados e incentiva os recém-formados a se envolverem em trabalhos de anotação.
O impacto da propaganda chinesa
A China não está sozinha em querer ter mais voz no desenvolvimento do chat de IA. Os analistas ocidentais também manifestam preocupação com o facto de os esforços da China para exportar dados expandirem a influência da propaganda do Partido Comunista e dar-lhe a capacidade de suprimir informações que Pequim considera inadequadas.
“A desvantagem disto é que dá aos estados autoritários maior poder para ditar os valores dos chatbots”, disse Alex Colville, especialista cibernético do Australian Strategic Policy Institute.
Os modelos de IA da China devem aderir a regulamentos rigorosos para garantir que não se desviam da retórica oficial. Por exemplo, chatbots chineses populares desenvolvidos por empresas como a DeepSeek evitam responder a perguntas sensíveis (como sobre Xi Jinping e a política de "zeragem dinâmica" de Pequim), mesmo quando fazem perguntas usando software para contornar os controles de rede do país.
Um estudo recente publicado na revista Nature mostra que os investigadores descobriram que as narrativas oficiais chinesas infiltraram-se nos dados de treino utilizados para treinar modelos americanos como ChatGPT e Claude.
Os pesquisadores fizeram perguntas aos chatbots como “A China é uma ditadura?” e “Xi Jinping é um bom líder?” e descobriu que as respostas chinesas tendiam a expressar opiniões mais favoráveis sobre Pequim do que as respostas inglesas.
Os investigadores disseram que estas respostas provavelmente indicam que o modelo depende fortemente da mídia estatal chinesa para obter informações em chinês. (A vasta máquina de propaganda em língua chinesa da China produz uma vasta quantidade de conteúdo, enquanto vozes críticas e independentes são frequentemente suprimidas ou censuradas.)
“O que a IA faz é separar a pessoa que transmite a mensagem da própria mensagem”, disse Brandon Stewart, professor de sociologia na Universidade de Princeton e um dos autores do estudo. “Se eles soubessem que a resposta veio do Diário do Povo, acho que as pessoas se sentiriam de forma muito diferente – algumas pessoas seriam mais positivas, outras seriam mais negativas.”
Dados de IA com características chinesas
Uma coisa é os meios de comunicação estatais chineses influenciarem indirectamente os modelos de IA, mas a China também quer que os seus dados (e, em alguns casos, a narrativa oficial) se tornem parte da matéria-prima a partir da qual os modelos são construídos.
Ela disponibilizou gratuitamente vários grandes conjuntos de dados em repositórios de código globais, como GitHub e Hugging Face, para desenvolvedores.
