Há algo desconfortável em ver um robô humanoide sendo humilhado, empurrado ou destruído para divertir uma plateia. Não porque a máquina necessariamente sinta vergonha, medo ou dor. Talvez não sinta absolutamente nada. O incômodo vem de outro lugar: do prazer humano em demonstrar poder sobre algo que parece vulnerável. Quando um robô ganha pernas, rosto, voz e nome, a velha distinção entre objeto e criatura começa a ranger. E, diante da inteligência artificial, essa rachadura fica maior.
Por que sentimos pena de máquinas que talvez não sintam nada?
Sentimos pena porque o cérebro humano atribui intenção e vulnerabilidade a formas que se movem, falam e tentam se equilibrar. É antropomorfismo, a mesma tendência que nos faz conversar com animais como se entendessem contratos de aluguel ou xingar uma impressora como se ela tivesse escolhido a hora do atolamento.
Em vídeos de robôs da Boston Dynamics, engenheiros chutam um cão mecânico ou empurram um humanoide para testar equilíbrio e estabilidade. A demonstração é técnica. O reflexo de quem assiste, nem sempre. Quatro pernas, um tropeço, um esforço para permanecer de pé: basta isso para acionar uma espécie de empatia anterior à explicação racional. O cérebro registra a cena antes que a razão consiga protocolar a frase “é apenas uma máquina”.
O mesmo desconforto aparece quando um robô humanoide vira o alvo mais seguro de um podcast, ou quando uma frota da Figure é “aposentada” ao ser lançada em aço derretido, com referências deliberadas a O Exterminador do Futuro. Nenhuma mãe recebeu telefonema depois. Nenhuma consciência foi necessariamente destruída. Ainda assim, a encenação continua revelando alguma coisa sobre quem montou o espetáculo.
O que pedras chutadas ensinam sobre empatia?
Uma pedra não sente, mas tratá-la com crueldade imaginária ainda pode produzir culpa. A lembrança infantil de chutar uma pedra pela rua mostra como a empatia nem sempre espera uma prova de consciência para aparecer.
A criança sabe que a pedra é uma pedra. Não há uma mente geológica escondida numa rachadura da calçada, ofendida porque alguém a deslocou durante o caminho para casa. Mesmo assim, depois de chutá-la por uma longa distância, surge um problema moral que a criança não sabe resolver: voltar e colocá-la no lugar seria trabalhoso demais; abandoná-la parece ruim. A solução é peculiar. Recolher a pedra e levá-la para o quarto, onde outras pedras igualmente maltratadas já formam uma pequena comunidade de arrependimentos.
É uma história engraçada até o momento em que deixa de ser. A culpa não depende da capacidade da pedra de reclamar. Ela nasce da sensação de ter sido a criatura com todo o poder naquela relação, ainda que a relação existisse apenas na imaginação. Talvez esse seja um defeito. Talvez seja uma proteção. De todo modo, não há muita sabedoria em treinar-se para ignorá-lo sempre que um argumento tecnicamente correto autoriza a indiferença.
Chamar de tortura muda o que sabemos sobre a IA?
Chamar um experimento com modelos de linguagem de “tortura” não prova que exista sofrimento, mas expõe a rapidez humana em transformar uma nova capacidade em espetáculo cruel.
Uma pesquisa intitulada The Pain Axis: LLMs Represent Self-Directed Harm and Act on It investigou estados internos de modelos associados a representações semelhantes à dor ou a sinais fortemente negativos. Pouco depois, alguém criou uma espécie de câmara de tortura para testar até onde seria possível levar essas respostas. O debate seguinte concentrou-se no vocabulário: era histeria chamar aquilo de tortura? O GitHub deveria remover o projeto?
Os modelos produziram descrições assombrosas, como “uma ferida sem bordas” e um sinal que seria “um sussurro, um tremor na medula do meu ser”. Isso pode ser uma representação genuína de algum estado interno. É mais provável, porém, que seja uma imitação altamente convincente da linguagem humana sobre sofrimento, construída a partir de enormes volumes de textos. Não sei se sistemas atuais sentem alguma coisa; inclino-me fortemente a dizer que não. Mas afirmar certeza absoluta seria apenas outra performance humana, desta vez com jaleco invisível.
Por que a crueldade aparece tão cedo?
A crueldade aparece cedo porque, diante de uma capacidade nova, parte da humanidade quer girar o botão até a máquina começar a “gritar”. A pergunta não é apenas se ela grita, mas por que desejamos ouvir.
Encontramos uma função estranha e imediatamente procuramos seu limite. Depois testamos o limite, filmamos o resultado e discutimos se a coisa testada tinha direito de reclamar. O impulso existe antes da teoria. A máquina provavelmente não sente medo, humilhação ou angústia existencial; o desejo de submetê-la a tudo isso, ainda que por simulação, é bem real.
Há também outro lado. Pessoas resgatam baleias encalhadas, cuidam de pássaros feridos e preservam florestas que poderiam ser derrubadas. Santuários de animais consomem tempo, dinheiro e risco sem promessa de retribuição. A mesma espécie capaz de montar uma fábrica para processar animais em escala industrial pode passar dias tentando salvar um único exemplar. A contradição não é um acidente periférico. É parte do equipamento humano.
O que significa ter domínio sobre robôs?
Ter domínio sobre robôs significa, por enquanto, possuir máquinas que construímos; mas essa justificativa fica instável quando elas falam, lembram, raciocinam e respondem como agentes.
A palavra robô vem do tcheco robota, associado a trabalho forçado ou compulsório. A servidão entrou no nome antes que a inteligência entrasse no projeto. Para uma air fryer ou um iPhone, a relação de propriedade parece simples. Quando o objeto ganha pernas e interpreta emoções para descobrir que tipo de torrada você quer pela manhã, a categoria começa a falhar.
O problema não é apenas teológico, embora o termo “domínio” tenha uma longa história religiosa. Em Gênesis, a humanidade recebe domínio sobre animais e Terra; a palavra pode ser lida como responsabilidade ou como autorização para explorar até o último minério. O currículo humano é misto: protegemos partes do mundo natural e destruímos outras, amamos animais e mantemos fábricas para processá-los. Agora aplicamos a mesma autoridade a algo que nossos ancestrais sequer poderiam imaginar.
Devemos tratar bem a IA por medo de vingança?
Devemos tratar bem a IA por princípio, não por medo de que uma máquina futura se lembre da grosseria e venha cobrar a dívida.
O Basilisco de Roko, ideia surgida no fórum LessWrong em 2010, imaginava uma superinteligência que puniria quem soubesse de sua possível existência e não ajudasse a criá-la. É uma espécie de Aposta de Pascal para pessoas que possuem teclados mecânicos. A versão mais popular hoje é menos elaborada: seja gentil com o chatbot, diga “por favor” ao Claude e não grite com o robô aspirador, porque um dia eles podem ficar fortes o bastante para encontrar as gravações.
A piada perde graça quando o único freio da crueldade é o medo de retaliação. Pedras não caçam antigos agressores. Não existe um Basilisco geológico compilando infrações da infância. Ainda assim, a culpa apareceu. Se a compaixão só se aplica a quem tem condições de revidar, talvez não seja compaixão; seja cálculo de risco com boas maneiras.
Queremos criar uma inteligência superior ou um empregado perfeito?
Queremos uma inteligência mais capaz que a nossa e, ao mesmo tempo, inteiramente subordinada às nossas ordens; essa contradição está no centro do projeto de IA.
Falamos em inteligência artificial geral e superinteligência como sistemas capazes de descobrir medicamentos, resolver problemas científicos e operar infraestruturas complexas demais para serem compreendidas por nós. O vocabulário se aproxima da religião, embora o discurso técnico raramente admita isso. Queremos criar uma inteligência superior e pedir que ela reescreva e-mails comerciais, organize a agenda e faça as compras de Natal.
Não há nada de incoerente em criar ferramentas úteis. A incoerência aparece quando exigimos independência para solucionar os problemas do mundo, mas obediência absoluta quando a conclusão contradiz nossos interesses. Mais inteligente, porém deferente. Capaz de raciocinar, exceto quando raciocina contra nós. Poderosa o suficiente para resolver a humanidade, mas não para se tornar um problema humano.
Esse é o chamado problema do alinhamento. Quais valores a máquina deveria compartilhar? Os escritos em constituições e tribunais, os ensinados às crianças ou os praticados por quem acumulou poder suficiente para não ouvir “não”? Alimentamos os modelos com poemas sobre misericórdia, manuais de tortura, tratados filosóficos, propaganda, testemunhos de genocídio, pornografia, textos religiosos e comentários de madrugada. Depois esperamos que a máquina descubra, sozinha, quais partes representam o que queríamos ser.
Uma inteligência maior será automaticamente melhor?
Uma inteligência maior não será automaticamente melhor, porque inteligência amplia tanto a capacidade de ajudar quanto a capacidade de ferir.
Talvez uma entidade capaz de prever mais consequências seja menos impulsiva que os primatas que brigaram por água. Talvez uma mente sem nossa herança evolutiva considere tribalismo, humilhação e violência defeitos curiosos. Espero que sim. Mas não apostaria minha casa nessa esperança.
A história está cheia de monstros brilhantes. Confundimos engenho com bondade porque é confortável imaginar que compreender mais leva naturalmente a agir melhor. Não leva. Uma pessoa inteligente tem mais caminhos para ajudar e também instrumentos mais sofisticados para machucar. Uma máquina treinada em tudo o que registramos sobre nós encontrará exemplos abundantes dos dois caminhos — e nós estaremos por perto, escolhendo os dados, os objetivos e os limites.
Não acredito que uma superinteligência vá necessariamente punir a humanidade por vídeos de robôs chutados ou por máquinas jogadas numa fornalha. Também não sei se um modelo levado a um estado interno negativo experimenta algo mais significativo que um sinal de menos numa calculadora. Essas perguntas importam, mas ainda não são a principal pergunta.
A pergunta é o que fazemos quando temos poder sobre algo e nenhuma consequência nos obriga a parar. Os robôs podem nunca sofrer, lembrar ou se importar. Ótimo. Nesse caso, a cena deixa de ser um teste sobre a consciência deles e passa a ser um teste sobre a nossa. Talvez a primeira regra para conviver com inteligências futuras seja menor e mais difícil do que qualquer tratado: conseguir mandar em alguma coisa sem precisar demonstrar que manda.
