Drone russo com IA autônoma mata civis em Zaporíjia, dizem autoridades ucranianas

A jovem correu para salvar a própria vida, mas era tarde demais.

Um pequeno drone russo semelhante a um aeromodelo mergulhou do céu no mês passado na cidade de Zaporíjia, no sudeste da Ucrânia. Ao tentar seguir em direção a um posto de gasolina, chocou-se contra um muro e explodiu em uma chuva de estilhaços, matando Tetiana Bubinets, 19, estudante universitária, e outras duas pessoas.

Elas estavam entre os milhares de civis ucranianos mortos em ataques aéreos russos, mas as circunstâncias de suas mortes trouxeram um aspecto sinistro.

O drone que as matou era guiado por um sistema experimental de inteligência artificial, não por um piloto humano, segundo especialistas em drones, comandantes militares ucranianos e a equipe forense que examinou os destroços desse ataque fatal e de outros ocorridos na cidade.

O drone havia sido programado por operadores humanos para seguir em direção a determinado posto de gasolina, mas, quando chegou perto, escolheu sozinho o alvo exato —provavelmente tanques de propano—, com base no treinamento recebido para reconhecer esses tanques e atacá-los, disseram os especialistas e as autoridades militares.

Trata-se de um desdobramento há muito aguardado na guerra na Ucrânia, que prenuncia um futuro distópico no qual robôs assassinos percorrem os céus, tomando decisões de vida ou morte que reduzem alvos a pontos de dados.

"Isso é um risco para o mundo inteiro", disse o coronel Serhii Minaiev, comandante das defesas aéreas de Zaporíjia. "Daqui a alguns anos, estaremos vivendo em um filme da franquia ‘O Exterminador do Futuro’. Não é brincadeira. As máquinas estão tomando decisões de atacar."

A análise dos destroços desse ataque e de outros em Zaporíjia constatou que os drones levavam a bordo minicomputadores comercializados pela Nvidia, que tomavam as decisões sobre os alvos, disseram os especialistas e as autoridades militares. A Nvidia produz a maioria dos chips que alimentam os sistemas de IA mais avançados do mundo.

A presença de módulos da Nvidia e a ausência de antenas nos drones levaram os comandantes da defesa aérea ucraniana a concluir que as armas eram guiadas por um sistema autônomo de IA, o que foi confirmado por investigações posteriores.

Sistemas autônomos de IA podem ser treinados com milhares de imagens para reconhecer categorias como "rio", "caminhão militar" ou "pessoa". Drones que selecionam os próprios alvos usam suas câmeras para procurar esses elementos com mais precisão do que um piloto humano poderia alcançar.

Mas os opositores a essas armas argumentam que, sem intervenção humana, os drones podem estar mais sujeitos a erros ou violações das leis da guerra, como não conseguir distinguir civis inocentes de combatentes.

O uso de IA para seleção autônoma de alvos no ataque ao posto de gasolina, em 6 de julho, seria o primeiro caso documentado em que mortes de civis foram causadas por um drone russo equipado com esse tipo de sistema, disse Kateryna Bondar, pesquisadora sênior do Centro Wadhwani de IA, do Centro de Estudos Estratégicos e Internacionais, em Washington. Ela acrescentou que o módulo da Nvidia "é a melhor prova" de que a Rússia estava fazendo experiências com IA autônoma.

Embora um assessor do presidente Volodimir Zelenski tenha escrito nas redes sociais que a Rússia estava testando sistemas de IA capazes de selecionar os próprios alvos, as mortes não haviam sido divulgadas anteriormente, assim como os detalhes sobre o módulo de computação Nvidia Jetson Orin utilizado.

Tanto a Rússia quanto a Ucrânia já usavam IA em vários modelos de drones antes do surgimento dos drones totalmente autônomos. Nesses modelos anteriores, a IA é usada apenas no que se chama de "último trecho" —a etapa final do ataque, depois que um piloto humano remoto seleciona o alvo. A IA totalmente autônoma elimina os seres humanos da seleção final do alvo.

O chip da Nvidia usado no ataque em Zaporíjia não era criptografado, disseram autoridades ucranianas, de modo que elas puderam ver as imagens do terreno carregadas no módulo, que permitiam ao drone rastrear pontos de referência visuais e permanecer na rota. Também conseguiram examinar códigos que, segundo elas, revelaram os tipos de alvo que o drone havia sido treinado para reconhecer e atacar, como tanques de propano.

Modelos anteriores de drones geralmente são pilotados por operadores humanos, por meio de transmissões de rádio ou cabos de fibra óptica, ou são pré-programados com coordenadas. À medida que os drones passaram a dominar o campo de batalha na Ucrânia, seus pilotos se tornaram alvos prioritários.

Um drone autônomo guiado por IA, em contrapartida, não precisa de pilotos humanos e pode ser mais preciso do que uma munição programada para atingir coordenadas.

Autoridades locais da defesa aérea afirmam que a Rússia vem mirando objetos civis, como bombas de combustível ou tanques de propano em postos de gasolina, ao testar drones autônomos em Zaporíjia, além de centros de recrutamento militar. Não está claro por que esses alvos foram escolhidos para os testes.

Vadim Kuchnikov, especialista em drones do Instituto de Aviação de Kharkiv, na Ucrânia, disse que o drone que matou os três civis era "uma ferramenta pré-programada e treinada em realidade virtual para rastrear objetos específicos".

Enquanto os softwares tradicionais seguem regras passo a passo escritas por uma pessoa, um sistema de IA estabelece as próprias regras ao encontrar padrões em enormes volumes de dados, processo chamado de aprendizado de máquina. Isso lhe permite lidar com situações imprevistas. Também significa que ninguém pode prever plenamente o que ele poderá fazer.

Grupos de defesa dos direitos humanos e o Comitê Internacional da Cruz Vermelha se opõem veementemente ao uso de armas de IA sem participação humana no processo decisório. Esses grupos afirmam que sistemas autônomos basicamente deixam a cargo de robôs a interpretação do direito internacional para determinar quais são os alvos legítimos em uma guerra.

Mas alguns especialistas argumentam que, no futuro, as armas deveriam, de fato, ser obrigadas a contar com sistemas de IA. Segundo esse argumento, essas armas são mais seguras porque conseguem tomar decisões antes de atacar, ainda que nem sempre com perfeição, ao contrário de bombas aéreas não guiadas ou projéteis comuns de artilharia, que simplesmente caem sem enxergar o que atingirão.

Embora alguns dos drones guiados por IA testados pela Rússia tenham detonado com o impacto, outros não explodiram e permaneceram intactos, disseram autoridades ucranianas. Elas mostraram a jornalistas do The New York Times destroços de dois desses drones. O Times fotografou o módulo de computação da Nvidia dentro deles e enviou as imagens à empresa.

A Nvidia confirmou que as fotos mostravam um minicomputador Jetson Orin. Esses módulos, que custam apenas algumas centenas de dólares, foram encontrados em vários tipos de armamentos russos.

Em comunicado, a empresa afirmou que o minicomputador era um produto destinado ao consumidor, "vendido a estudantes, desenvolvedores e startups para uma ampla variedade de aplicações benéficas". A Nvidia vende o computador em muitos países, mas não na Rússia. Ainda assim, ele está amplamente disponível por meio de revendedores, segundo o comunicado.

A Ucrânia também testou sistemas de IA capazes de selecionar os próprios alvos. Mikhailo Fedorov, o ministro da Defesa recentemente destituído, disse em entrevista ao Times que a Ucrânia havia testado, nos últimos meses, um sistema de IA inteiramente autônomo na Crimeia ocupada pela Rússia. Fedorov afirmou que os dispositivos tiveram como alvo instalações de armazenamento de combustível e equipamentos militares, e que nenhum civil havia sido morto.

Em entrevistas, alguns moradores de Zaporíjia, situada a apenas 14 quilômetros da linha de frente, disseram que a ideia de dispositivos zumbindo sobre a cidade e tomando por conta própria decisões de matar lhes causava arrepios. Mas as cidades ucranianas vêm sendo tão intensamente bombardeadas há anos que a vida já havia sido transformada por drones menos sofisticados.

Drones interceptadores, pilotados —por enquanto— por homens e mulheres considerados heróis locais, são uma das respostas à ameaça dos drones. Redes antidrones são outra: elas cobrem cerca de 386 quilômetros de estradas em Zaporíjia e nos arredores.

Outra medida defensiva é a camuflagem. Lonas plásticas, por exemplo, são instaladas em ângulos incomuns ao redor de tanques de propano em postos de gasolina, na tentativa de enganar os sistemas de reconhecimento de imagens por IA.

Momentos antes de o drone explosivo avançar em direção ao posto de gasolina, em 6 de julho, um grupo de pessoas se encolheu junto à parede de um prédio residencial próximo em busca de proteção, depois de já ter ouvido explosões enquanto os drones chegavam em ondas.

Oksana Ichenko, funcionária do posto, estava ao lado de Bubinets. "Ela chorava de medo", recordou Ichenko. Então, algumas pessoas do grupo começaram a gritar: "Um avião! Um avião!", disse.

Um drone vinha na direção delas. Bubinets e várias outras pessoas saíram correndo, espalhando-se pelo estacionamento. Depois de não conseguir contornar o prédio residencial, o drone detonou antes de alcançar seu alvo.

Bubinets, que estudava contabilidade na Universidade Nacional de Zaporíjia, ficou imóvel no asfalto, com sangue escorrendo do nariz. Ela foi declarada morta em um hospital, disse Tetiana Melikhova, uma de suas professoras. Os outros dois mortos, Oleksii Svirin, 41, e Roman Karpii, 48, morreram posteriormente em decorrência dos ferimentos.