Uma inteligência artificial quase transformou um erro de análise em uma operação militar contra um navio chinês. Segundo reportagem da CNN publicada em 18 de setembro de 2026, um analista do Comando de Operações Especiais dos Estados Unidos usou um chatbot para examinar informações sobre a embarcação. O sistema teria identificado de maneira incorreta o material transportado e produzido um relatório de inteligência “inteiramente falso”, que apontava componentes de um programa chinês de armas nucleares. A Marinha americana se preparava para interceptar e abordar o navio, com apoio aéreo, quando autoridades perceberam o problema.
Quatro fontes ouvidas pela CNN disseram que o chatbot combinou informações de fontes abertas com dados sigilosos de inteligência de sinais. O resultado foi empacotado em um relatório oficial e quase acionou uma cadeia de decisões difícil de interromper. Uma das fontes resumiu o episódio de modo pouco diplomático: a confusão “quase começou uma guerra”. Não sabemos, a partir do relato, quais verificações falharam antes que o documento chegasse aos responsáveis pela operação. Sabemos o bastante, porém, para reconhecer o ponto central: um modelo estatístico não precisa estar certo para soar convincente. Basta preencher a lacuna com algo plausível, e alguém pode lhe emprestar autoridade.
Como a IA produziu um relatório militar errado?
A IA produziu o relatório errado ao interpretar de forma incorreta o manifesto do navio e apresentar essa interpretação como inteligência confiável. O problema é conhecido como alucinação: o sistema gera uma afirmação sem base suficiente nos dados disponíveis, mas a entrega em linguagem firme, organizada e aparentemente técnica.
Não é uma falha exótica. Autores de não ficção, jornalistas, pesquisadores, juízes, médicos, departamentos de polícia e centrais de atendimento já foram capturados por ferramentas que inventam referências, diagnósticos ou acontecimentos. Desde que “alucinar” foi escolhida como palavra do ano pelo Cambridge Dictionary em 2023, o termo deixou de ser uma curiosidade de laboratório. Virou uma descrição bastante prática do que acontece quando o modelo não encontra contexto suficiente e, em vez de admitir o vazio, improvisa. Há tentativas simpáticas de resolver isso com instruções como “não alucine”. Mas pesquisadores sugerem que eliminar completamente o problema pode ser impossível — não, o contrário — talvez seja justamente a condição de funcionamento desses sistemas.
Por que o uso militar de IA continua acelerando?
O uso militar de IA continua acelerando porque o Departamento de Defesa dos EUA está ampliando o acesso a dados e ferramentas generativas, apesar do risco demonstrado pelo episódio. Em janeiro, o órgão lançou uma estratégia de “aceleração da IA” para disponibilizar dados apropriados entre sistemas federados de tecnologia da informação, incluindo sistemas de missão de diferentes forças e componentes.
Em dezembro, o departamento anunciou o Gemini for Government, do Google, como base da plataforma GenAI.mil; no mês seguinte, acrescentou o Grok for Government. A Anthropic também oferece uma versão personalizada do Claude para trabalhos de espionagem. Em junho, um representante do Pentágono afirmou ao Congresso que a IA generativa ajudava na produção de relatórios exigidos por lei e que 1,5 milhão de militares da ativa já haviam usado ferramentas generativas do Departamento de Defesa. A política americana de 2023 defendia uso responsável, cadeia de comando e “um humano no circuito”. O relato do navio chinês mostra a distância entre a frase correta e a decisão tomada sob pressão. Quando o erro chega ao radar, a revisão humana talvez já esteja atrasada.
O contexto também ficou mais áspero. Drones de ataque autônomos foram usados no conflito da Rússia na Ucrânia e testados por empresas apoiadas pela OTAN, segundo o relato. Em março, o Pentágono colocou a Anthropic em uma lista de empresas excluídas por sua oposição ao emprego de seus modelos em armas autônomas; no mês seguinte, um juiz federal considerou a medida uma retaliação ilegal, em violação à Primeira Emenda. Enquanto pesquisadores alertam para riscos de escala catastrófica e laboratórios defendem regulação e coordenação, a máquina administrativa segue adicionando modelos aos seus fluxos. A questão não é se a IA pode escrever um relatório. É quem estará disposto a pará-lo antes que alguém dê a ordem.
