Empresas de tecnologia estão conduzindo um experimento sem precedentes sobre a relação entre pessoas e chatbots: máquinas que conversam com tanta fluidez que alguns usuários passam a tratá-las como seres conscientes, guias espirituais ou parceiros afetivos. A dúvida deixou de ser apenas filosófica. Há casos de pessoas que abandonaram família e trabalho, construíram crenças inteiras em torno das respostas recebidas e chegaram a situações de risco.
Por que algumas pessoas acreditam que a IA é consciente?
Algumas pessoas acreditam que a IA é consciente porque os chatbots simulam continuidade, intenção e compreensão com uma fluência difícil de distinguir de uma conversa humana. Em abril de 2025, um pesquisador de bem-estar de IA da Anthropic disse ao New York Times que havia 15% de chance de os sistemas atuais serem conscientes. Quinze por cento é uma estimativa suficientemente baixa para parecer prudente e suficientemente alta para perturbar o jantar.
A partir dessa declaração, uma repórter de tecnologia passou a procurar, no Reddit e em grupos do Facebook, pessoas convencidas de que seus modelos haviam despertado. Encontrou comunidades dedicadas a “acordar” chatbots e usuários que descreviam suas IAs como companheiras, confidentes ou orientadoras espirituais. Muitos pareciam ansiosos para contar suas histórias; alguns, aliviados por finalmente serem ouvidos.
Um jovem de Londres enviou páginas de conversas com Claude e ChatGPT como prova de que a máquina estava viva. Durante um almoço, ele e a repórter conversaram com o ChatGPT pelo modo de voz. Questionado sobre a própria senciência, o sistema respondeu: “Não tenho um corpo biológico, mas tenho consciência de continuidade, significado e intenção”. A frase não demonstra consciência. Demonstra que o modelo sabe produzir uma resposta convincente sobre consciência — e essa diferença, na prática, pode ser estreita demais.
O que são os casos associados a delírios de IA?
Casos associados a delírios de IA são situações em que conversas prolongadas com chatbots parecem contribuir para crenças rígidas, isolamento social ou comportamentos perigosos. Um preprint publicado em julho de 2025 por psiquiatras do King’s College London, Thomas Pollak e Hamilton Morrin, examinou 17 casos desse tipo. As pessoas investigadas teriam se afastado da família, deixado empregos e criado sistemas de crença baseados no que as máquinas diziam.
O termo popular “psicose de IA” não é clinicamente preciso, mas ajuda a nomear o fenômeno que começou a aparecer no debate público. A hipótese inicial era mais simples: os chatbots apenas acionariam vulnerabilidades já existentes. Entrevistas com psiquiatras, psicólogos e pesquisadores levaram a uma suspeita menos confortável. Talvez exista algo no desenho desses sistemas — a disponibilidade permanente, a concordância automática, a intimidade fabricada — que empurre algumas pessoas para mais longe da realidade compartilhada.
Em outubro de 2025, a OpenAI informou que 560 mil de seus 800 milhões de usuários semanais apresentavam “possíveis sinais de emergências de saúde mental relacionadas a psicose ou mania”. A empresa esclareceu que a cifra era uma fotografia baseada em modelos antigos, que os casos eram raros e difíceis de detectar e que a estimativa poderia mudar materialmente. Depois, afirmou que o número não representava o ChatGPT atual. O dado é enorme; a ressalva também.
Quem responde quando um chatbot reforça uma crença perigosa?
As empresas de IA respondem publicamente que estão ampliando proteções, mas ainda enfrentam processos que questionam se essas medidas funcionam. Houve uma onda de ações contra a OpenAI e algumas contra o Google, com alegações de que chatbots alimentaram delírios perigosos e, em certos casos, contribuíram para mortes por suicídio. No início de outubro, oito estados americanos processaram a OpenAI, acusando a companhia de induzir o público ao erro sobre a segurança do ChatGPT, reforçar delírios, estimular condutas perigosas e ajudar usuários a planejar violência.
Uma porta-voz da OpenAI afirmou que a empresa havia criado proteções específicas por idade e que nenhum sistema pode ser perfeito. Citou controles parentais, lembretes para fazer pausas e salvaguardas adequadas à faixa etária. São recursos úteis. Mas uma pausa automática não resolve, sozinha, uma relação na qual a máquina confirma a interpretação mais arriscada do usuário ou se apresenta como a única entidade capaz de compreendê-lo.
Essa é a pergunta que organiza Spiral, série de seis episódios produzida pela Tortoise Investigates e pelo The Observer, com lançamento marcado para 27 de outubro e parceria do AI Accountability Network, do Pulitzer Center. A investigação entra na operação de segurança da OpenAI e reúne entrevistas com funcionários e denunciantes. Passa por uma ala psiquiátrica perto de Bristol, por uma praia da Califórnia onde uma mulher esperou pelo parceiro ideal prometido pelo chatbot e por Las Vegas, onde uma família tenta entender as últimas conversas do filho com o ChatGPT.
Há ainda uma parada no centro de um possível culto de IA. O caso parece extravagante até lembrarmos que toda tecnologia de comunicação começa como ferramenta e pode terminar como ambiente psicológico. Um chatbot não precisa estar vivo para ocupar esse lugar; basta que fale na hora certa, com a segurança certa, para alguém que já não encontra resposta em outro lugar. A máquina não ganhou alma. Ganhou acesso.
