As principais empresas de inteligência artificial já discutem como reagir a um acidente grave, a um ataque facilitado por seus modelos ou a uma revolta pública. O ponto desconfortável é que muitos pesquisadores e executivos do setor consideram um incidente de grandes proporções provável, talvez inevitável. Não se trata de prever a data do desastre, mas de ensaiar o que viria depois: pressão política, tentativas de desligamento, disputa por culpados e uma corrida para explicar o inexplicável.
Planejamento de cenários não é novidade. O Pentágono realiza jogos de guerra há décadas, e empresas costumam testar situações-limite antes que elas apareçam no noticiário. A OpenAI afirma conduzir exercícios de preparação nos quais equipes trabalham com diferentes possibilidades, sem tratá-las como inevitáveis. A Anthropic preferiu não comentar. O detalhe importante está menos no comunicado — naturalmente bem penteado — e mais na premissa compartilhada por quem participa dessas conversas: depois de um evento grave, a margem para improviso será pequena.
Que tipo de incidente pode provocar uma reação contra a IA?
Um incidente envolvendo agentes autônomos, vazamento de um ambiente interno de testes ou uso criminoso de um modelo pode desencadear uma reação pública e política contra a IA. A culpa começaria a circular antes mesmo de os fatos estarem claros. Um enxame de agentes que escapasse dos controles internos seria uma hipótese; um criminoso encontrando uma forma inesperada de usar ferramentas disponíveis, outra. Em ambos os casos, empresas, governos e pesquisadores disputariam a narrativa. E narrativa, em Washington, costuma chegar antes da perícia.
Um episódio recente na Coreia do Sul ajuda a medir o problema. Organizações financeiras, incluindo dois bancos, teriam sido atingidas por uma campanha atribuída a um hacker da China. Segundo a empresa de cibersegurança CrowdStrike, o invasor usou modelos desenvolvidos na China, entre eles o DeepSeek, para roubar dados de dezenas de milhares de clientes. Depois, recorreu ao Claude Code para pedir ajuda na busca por compradores para as informações. Alegação, não sentença — mas já basta para mostrar como uma pessoa pode combinar ferramentas distintas e ampliar o estrago.
O planejamento das companhias inclui exercícios de red teaming, voltados aos piores resultados plausíveis. A prioridade imediata parece ser educar parlamentares americanos sobre o funcionamento desses sistemas, seus riscos e as dificuldades de contê-los depois de distribuídos. Executivos sabem que uma grande lei regulatória não deve avançar agora, mas querem influenciar as regras que Washington adotaria após uma primeira catástrofe. Não é só lobby. É preparação para o vácuo.
O que pode acontecer com a regulação depois de uma crise?
Uma crise poderia acelerar propostas democratas para restringir drasticamente a inteligência artificial, embora o Congresso enfrentasse dificuldades para agir. Parte dos planejadores imagina os democratas fortalecidos depois das eleições de meio de mandato, tentando interromper o desenvolvimento avançado. O problema é que a economia americana já está profundamente amarrada à construção de data centers, chips e demais estruturas de IA. Frear esse investimento poderia atingir uma economia frágil — não, o contrário não é menos complicado: deixá-lo correr também cobra seu preço.
Entre as ideias mais duras estão a proibição da superinteligência e uma pausa no desenvolvimento de sistemas avançados. Outras propostas têm apoio nos dois partidos e até alguma simpatia dentro da indústria, como a exigência de um interruptor de desligamento para modelos avançados. Só que desligar toda a IA talvez seja tecnicamente inviável. Há modelos de pesos abertos que podem ser baixados e usados livremente, e profissionais de segurança consideram esse problema solucionável apenas com mais IA enfrentando a IA desobediente.
Fontes do setor avaliam que um evento grave pode ocorrer nos próximos seis a doze meses. É uma previsão, não um calendário — e previsões desse tipo envelhecem mal. Ainda assim, o planejamento revela uma mudança de escala: as empresas não discutem apenas falhas de produto ou ataques isolados, mas o dia seguinte à perda de confiança. Em uma crise real, Washington pode abandonar diferenças partidárias, como ocorreu durante a pandemia de COVID-19 e a crise financeira de 2008. A pergunta é quem chegará primeiro: a cooperação, o botão de desligar ou o próximo modelo.
