Na ONU, países discutem como manter humanos no controle das armas com IA

Armas letais movidas por inteligência artificial estão deixando de ser hipótese distante, mas as regras para limitar seu uso ainda não acompanharam a tecnologia. A discussão chega à ONU, em Genebra, onde começa uma conferência sobre sistemas conhecidos pela sigla LAWS, capazes de identificar, selecionar e atacar um alvo sem intervenção humana direta na execução dessas tarefas. Alguns preferem chamá-los de robôs assassinos. O apelido é ruim, mas cumpre sua função: lembrar que a decisão final pode sair da cabine de comando e entrar no software.

O ponto central da reunião será definir quanto controle humano deve existir antes que uma arma seja usada. Os Estados Unidos falam em “níveis apropriados de julgamento humano”. A França afirma que uma pessoa precisa continuar no circuito decisório, embora permita sistemas parcialmente autônomos, chamados PLAWS. Na prática, a diferença entre supervisionar uma máquina e apenas carimbar sua recomendação pode caber numa tela cheia de alertas, mapas e números. A tela, como sempre, parece neutra até alguém morrer por causa dela.

Quem decide quando uma arma autônoma pode atacar?

A decisão não deveria ser entregue integralmente à máquina, e os próprios governos reconhecem que o comandante precisa manter controle adequado sobre o emprego da arma. A dificuldade está em transformar essa frase em um critério verificável. O contra-almirante francês Vincent Sebastien disse que a extensão desse controle varia conforme a criticidade do sistema e o contexto operacional. É uma formulação razoável, mas suficientemente elástica para acomodar quase qualquer interpretação.

O secretário-geral da ONU, Antonio Guterres, e a presidente do Comitê Internacional da Cruz Vermelha, Mirjana Spoljaric, alertaram em declaração conjunta que o mundo se aproxima perigosamente de uma linha moral, a possibilidade de máquinas escolherem seres humanos como alvos. A preocupação não se limita ao disparo. Sistemas de análise, seleção e apoio à decisão já reduzem o papel humano antes mesmo de uma ordem ser emitida, quando transformam milhares de sinais em uma lista de prioridades.

Para Jean-Marc Rickli, do Geneva Centre for Security Policy, a pauta de Genebra é estreita demais para abranger todos os problemas da inteligência artificial no campo de batalha. Ele citou uma ofensiva dos Estados Unidos e de Israel contra o Irã, na qual os norte-americanos teriam engajado até 1.000 alvos por dia dentro do território iraniano. Laure de Roucy-Rochegonde, do Centre for Geopolitics of Technology, questionou que tipo de supervisão garantiria julgamento real do operador, em vez de uma aprovação automática das recomendações da máquina.

As armas autônomas já estão em uso?

Os sistemas discutidos em Genebra ainda não são empregados de forma ampla, mas analistas afirmam que armas autônomas já foram usadas pela Rússia na invasão da Ucrânia e em ataques dos Estados Unidos contra o Irã. A extensão exata desse uso precisa ser verificada antes de qualquer conclusão definitiva. O movimento, porém, é claro: países que investem em inteligência artificial militar não parecem dispostos a esperar que seus rivais estabeleçam vantagem primeiro.

Sebastien disse que a autonomia chegará rapidamente ao campo de batalha. Guterres e Spoljaric foram mais diretos: a corrida por sistemas cada vez mais autônomos já começou. Dario Amodei, cofundador da Anthropic, fez a ressalva menos confortável para os entusiastas da automação: os modelos de fronteira atuais ainda não são confiáveis o bastante para controlar armas plenamente autônomas. Falham em tarefas banais. No campo de batalha, a margem para corrigir a falha costuma ser um pouco menor.

O incentivo estratégico, entretanto, permanece forte. Enxames de drones podem saturar as defesas e tentar neutralizar um adversário pelo volume, segundo Rickli. Para alguns governos, isso representa uma vantagem decisiva, capaz de reduzir custos humanos próprios e acelerar operações. É justamente aí que a discussão jurídica encontra a realidade militar: quanto mais eficaz for a máquina, maior será a tentação de retirar pessoas do caminho. A conferência pode começar em Genebra, mas a pergunta já está voando em formação sobre alguma fronteira.

spot_img