King Charles warns about existential dangers of artificial intelligence

O rei Charles da Grã-Bretanha alertou nesta quinta-feira os executivos de inteligência artificial sobre os "perigos existenciais" que a tecnologia pode representar caso caia em mãos erradas e afirmou que salvaguardas suficientes são necessárias antes que seja "tarde demais".

" Aqueles que criaram essas tecnologias estão agora alertando cada vez mais que a IA corre o risco de desenvolver capacidades mais sombrias - talvez até mesmo a de tirar vidas", disse o rei a executivos da Nvidia, Google DeepMind, OpenAI, Anthropic e outras empresas.

"Nesse sentido, se me permitem dizer, parece haver urgência em considerar adequadamente os perigos existenciais de tais tecnologias caírem em mãos erradas e serem usadas de maneiras potencialmente catastróficas."

Ele acrescentou: " A tarefa que vocês têm pela frente não é apenas fazer avançar a tecnologia, mas garantir que ela permaneça firmemente a serviço da humanidade, da comunidade e do mundo natural."

Nos últimos meses, executivos de grandes empresas de tecnologia, ativistas e organizações não governamentais passaram a defender uma pausa no avanço da inteligência artificial para tornar seu desenvolvimento mais seguro.

Muitas dessas falas expressam preocupação com a possibilidade de a inteligência artificial ganhar poder excessivo sobre a internet e até "matar seres humanos". Além disso, elas defendem a criação de órgãos internacionais para estabelecer regras e padrões de segurança para o desenvolvimento da tecnologia.

Dario Amodei, CEO da Anthropic, em artigo publicado em 12 de setembro, pediu que as empresas de inteligência artificial moderem o ritmo de avanço das capacidades de seus modelos diante do aumento das preocupações com o uso indevido da IA.

"Dada a aceleração do desenvolvimento de capacidades de IA, me preocupa que, em 6 a 12 meses, tal enxame possa ser capaz de dominar toda a internet. Se não for controlada, pode ultrapassar nossa capacidade de entender e controlar esses sistemas, e por isso seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar", escreveu Amodei.

O discurso também foi defendido por executivos de empresas que concorrem com a Anthropic, como Sam Altman, CEO da OpenAI; Elon Musk, dono do X e da empresa de IA xAI; e Demis Hassabis, presidente do Google DeepMind.

Sam Altman, ao concordar com a declaração de Amodei, disse que é preciso "marcar um ritmo da fronteira" de IA. A empresa anunciou, no início de agosto, que estava desacelerando o desenvolvimento de seus modelos de inteligência artificial enquanto reformula seus sistemas de pesquisa e treinamento após agente em teste invadir sistemas de outra empresa.

Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic, deixou a indústria acusando as empresas de "brincar com as nossas vidas". Evan Hubinger, diretor de segurança na Anthropic, deu razão a Coxon no X, calculando o risco em "mais de 10%" dentro da próxima década.

O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, alertou para a necessidade de criar rapidamente mecanismos de governança, afirmando que a IA avançada pode "representar um risco existencial para a humanidade".

Bill Gates, em agosto de 2026, afirmou estar preocupado com o uso da tecnologia em ataques, substituição de trabalhadores e manipulação de usuários, defendendo a criação de uma organização internacional para administrar a IA.

O presidente dos EUA, Donald Trump, criticou os pedidos de cautela, comparando os críticos a "forças muito negativas" e reafirmando o desejo de manter a liderança dos EUA no setor frente à China.