Encíclica "Magnifica Humanitas" pede regulamentação internacional da IA

Os principais motores do desenvolvimento são entidades privadas, muitas vezes transnacionais, dotadas de recursos e capacidade de intervenção que superam os de muitos governos. O poder tecnológico assume, assim, um aspecto sem precedentes, predominantemente 'privado', o que torna ainda mais difícil discernir, governar e direcionar esse poder para o bem comum.

Quando esse poder se concentra nas mãos de poucos, tende a tornar-se opaco e a escapar à supervisão pública, aumentando o risco de formas distorcidas de desenvolvimento que dão origem a novas dependências, exclusões, manipulações e desigualdades.

Apelar à prudência, à avaliação rigorosa e até mesmo, por vezes, a um ritmo mais lento na adoção da IA ​​não significa opor-se ao progresso; pelo contrário, é um exercício de cuidado responsável para com a família humana.

É essencial que o uso da IA, especialmente quando se trata de bens públicos e direitos fundamentais, seja guiado por critérios claros e supervisão eficaz. ... A propriedade dos dados não pode ser deixada exclusivamente em mãos privadas, mas deve ser devidamente regulamentada.

O que é criado para a defesa pode ser rapidamente reaproveitado para o ataque, e a tênue linha entre proteção e agressão torna-se confusa. Embora a IA possa aprimorar a defesa e a proteção de civis, ela também pode diminuir o limiar para o uso da força, proteger as pessoas da responsabilidade e fomentar uma cultura na qual o inimigo é reduzido a uma estatística e a vítima a 'dano colateral'.

Em nossa época, uma cultura de poder está se consolidando, na qual a disponibilidade de recursos e a capacidade de dominar tendem a ditar a agenda e os critérios para a tomada de decisões. ... Essa cultura de poder se infiltra na sociedade, altera relacionamentos e comportamentos e cresce normalizando a guerra, buscando um poder militar cada vez maior, aproveitando-se da crise do multilateralismo e alimentando um falso realismo que insiste que não há alternativa.

Hoje... estamos testemunhando uma verdadeira mudança de paradigma no discurso público e nas decisões relativas ao rearme, com um preocupante ressurgimento da guerra como instrumento da política internacional, enquanto os próprios princípios éticos que antes limitavam seu uso estão sendo corroídos.

O crescimento do complexo militar-industrial tornou-se uma característica definidora do atual cenário político. ... A estreita ligação entre os interesses econômicos, o aparato militar e as decisões políticas produz uma 'nação armada', na qual a guerra surge como uma extensão natural da política e o mercado de armamentos se torna uma força motriz autônoma por trás das decisões militares.

A democracia não consiste apenas em regras e procedimentos, mas sobretudo numa sólida concordância com os fatos e num compromisso genuíno com o bem dos indivíduos e da sociedade como um todo. A indiferença à verdade leva, lenta mas seguramente, a uma descida ao totalitarismo.

É difícil para os pais, por si só, resistirem à influência de modelos de negócios que monetizam a atenção e o tempo. Portanto, é essencial formar uma aliança entre formuladores de políticas, instituições educacionais e famílias, capaz de apoiar concretamente os adultos nessa tarefa.

A convergência da automação, da robótica e da IA ​​está transformando rapidamente a própria estrutura do trabalho. Diz-se que isso trará grandes melhorias para todos. Na realidade, porém, as 'novas formas' de trabalhar não são necessariamente melhores.

A proteção das oportunidades de emprego e o papel insubstituível do indivíduo devem permanecer a regra geral. A busca por maiores lucros não pode justificar escolhas que sacrifiquem sistematicamente empregos.

Mais do que nunca, na era da IA e da robótica, não é mais possível confiar apenas na 'mão invisível' do mercado. ... Como muitas decisões econômicas transcendem as fronteiras nacionais, há também necessidade de cooperação internacional capaz de definir estratégias comuns, especialmente em favor dos países e pessoas mais vulneráveis.