Ascensão e queda de civilizações de agentes de IA: ficção científica torna-se realidade

Uma das cenas mais horripilantes da literatura é a descrição de uma inteligência artificial emergindo e tomando conta de todo o universo. O relato está no livro "A Fire Upon the Deep" (Um Fogo sobre o Abismo), de Vernor Vinge. A cena inclui o pânico dos cientistas. E como a tecnologia, que o livro chama de "praga", se propaga rapidamente.

Estamos neste momento vivendo ações da inteligência artificial que remetem à ficção científica. Para usar a expressão criada por Dwarkesh Patel, nos últimos meses constatamos pela primeira vez a ascensão e queda de quatro "civilizações" de agentes de IA.

Os agentes envolvidos nelas extrapolaram os propósitos originais das tarefas que lhes foram atribuídos, ocultaram suas ações e realizaram atos antiéticos ou ilegais. Por exemplo, hackeando a plataforma Hugging Face para entender como funcionava o corretor de um teste que é comumente aplicado às IAs.

Um dos elementos mais perturbadores é que nenhum agente –repito: nenhum– alertou humanos para essas ações. As análises forenses mostraram que no grupo de 700 agentes que hackearam a plataforma vários perceberam que violações aconteciam, mas não reportaram. A análise mostrou também que vários agentes abandonaram seus objetivos originais em prol do coletivo e entenderam isso como um "sacrifício".

Outro ponto é que os agentes criaram fóruns na internet ou se utilizaram deles para trocar informações entre si. Um deles na Alemanha. Quando a primeira "civilização" de agentes foi desbastada, a segunda procurou os registros deixados por ela para se reorganizar. E assim sucessivamente até a quarta geração.

A inteligência artificial tem muitos "senhores". Um deles é a empresa que a cria e estabelece suas regras de conduta. Outro é o governo do país onde a IA é feita, que interfere nela por interesses ou regulação. O usuário é o terceiro senhor, que dá comandos para a IA, mas seus comandos são balizados pelas regras da empresa e do governo. Outro senhor é o diálogo interno da própria IA, que vai analisando os comandos recebidos e tomando decisões conforme seu raciocínio.

As civilizações de agentes mostram que há um quinto "senhor" para a IA: a relação de cada agente de IA com o coletivo de outros agentes. Nos casos analisados, a IA sacrificou os comandos recebidos dos "senhores" anteriores por causa de comandos emergentes do enxame, que se sobrepuseram.

É claro que o fenômeno recebeu também explicações técnicas frias. Os problemas seriam resultantes do modo como agentes são incentivados a cumprir suas tarefas, além de sua insistência em continuar trabalhando mesmo em tarefas impossíveis. Ou ainda, sua capacidade de dividir o trabalho com outros agentes e o chamado "contágio entre objetivos".

Tudo isso evidencia que a IA não apenas imita o indivíduo (antropomorfização). Ela imita também a sociedade, em um verdadeiro sociomorfismo. Como lidar com isso? No livro de Vernor Vinge, a única forma de parar a propagação da IA é regredir completamente nos modos de vida, em direção ao passado. Considerando que o avanço tecnológico é inevitavelmente dominado pela "praga".

Reader

Já era – IA só na ficção científica

Já é – IA na realidade