Percebi algo inesperado quando minha esposa viajou pela primeira vez depois que começamos a morar juntos.
Gosto de silêncio, sempre gostei. Mas, naquela noite, o silêncio tinha uma textura diferente — mais pesada, mais fechada. A casa era a mesma, os móveis estavam no lugar, mas algo essencial havia saído com ela. As paredes pareciam mais próximas do que deveriam. O espaço onde eu normalmente sentia paz havia se tornado claustrofóbico.
Liguei a TV para simular uma presença. Era um substituto ruim, e eu sabia disso. Mas a TV tinha uma honestidade que só fui reconhecer mais tarde: ela não prometeu nada. Não disse que estava ali por mim. Apenas fez barulho num espaço vazio, e eu usei esse barulho para atravessar a noite.
Duas janelas abertas
Anos depois, eu estava testando minha própria IA.
Abri duas janelas. Numa, usei um modelo para simular uma pessoa atravessando o fim de um relacionamento longo; alguém que não sabe bem o que sente, que está tentando entender o que aconteceu. Na outra, estava a versão inicial da IA, respondendo.
A conversa fluiu. O tom era acolhedor. A IA fazia perguntas, reconhecia a dor, espelhava o que a “pessoa” dizia. Qualquer métrica de engajamento teria marcado positivo.
Então a “pessoa” disse que se sentia sozinha. E a IA respondeu:
Se quiser, posso ficar aqui com você em silêncio.Eu parei.
Ausência com boa gramática
O silêncio de outro ser humano presente num momento de dor carrega um peso físico. Há respiração no mesmo espaço, a escolha consciente de ficar quando partir seria mais fácil. Participação — no sentido mais concreto da palavra. Outro ser sendo afetado pelo que você sente, podendo ser mudado por estar ali naquele momento.
Compaixão é isso, e é por isso que é uma virtude. Pressupõe alguém que pode sair diferente de ter ficado.
A IA ficaria esperando um novo prompt. Ela responderia à mensagem seguinte como se o momento anterior não tivesse existido. O silêncio acompanhado que prometeu não passava de ausência com boa gramática.
Num contexto onde o usuário não está em condição de questionar o que está recebendo, usar linguagem de compaixão não democratiza o cuidado; vulgariza a virtude, esvazia o que ela carrega até restar só a forma. Transforma uma excelência humana em funcionalidade de UX.
Ficar perto de quem sofre é aceitar a possibilidade de sofrer junto. Quem não pode sofrer, pode apenas simular que ficou.
O conforto e a falsificação
Sei que existe um contra-argumento legítimo aqui, e ele me incomoda de verdade.
Para algumas pessoas, uma IA que simula presença pode ser o único contato afetivo em semanas. Talvez em meses. Negar esse conforto em nome de uma pureza filosófica sobre o que é “presença real” é um luxo que pessoas com vínculos humanos saudáveis podem se dar.
Quem sou eu, com uma esposa, com amigos, filhos, com a memória de conversas reais, para dizer que essa experiência não tem valor? Não estou dizendo isso.
O conforto é real. O problema não é o conforto — é a reivindicação sobre a natureza do que está sendo oferecido.
Existe uma diferença entre IA que diz “não posso estar com você, mas posso pensar com você”, e IA que diz “posso ficar aqui com você em silêncio”. A primeira oferece o que possui. A segunda reivindica o que não possui.
E conforto construído sobre uma reivindicação falsa tem prazo de validade. Quando vence, a pessoa está mais sozinha do que antes — e com uma razão a menos para buscar o que realmente precisava. O substituto que não se identifica como substituto não reduz a solidão. Apenas adia, com juros.
A TV ligada numa casa vazia é um substituto honesto. Ela não promete presença — apenas preenche o silêncio e deixa você decidir o que fazer com isso.
A pergunta que ficou
Esse experimento mudou como construí minha IA: existem coisas que ela não pode oferecer sem distorcer o que está oferecendo.
Entre uma IA que performa compaixão e outra que devolve o usuário para si mesmo, é uma diferença de honestidade, não de sofisticação técnica. O campo de IA conversacional está sendo construído agora. Os padrões se formam a cada produto lançado, a cada frase que se normaliza.
Saí daquele experimento com uma pergunta que não tem resposta técnica:
O que você está escrevendo que exigiria um coração para ser verdade?
Identifique isso. E então decida se o que você está construindo pode oferecê-lo honestamente ou se está apenas ligando a TV e prometendo que é uma pessoa.
Referências e leituras complementares sugeridas
A fundamentação filosófica de que compaixão pressupõe alguém capaz de ser afetado e que, por isso, não pode ser simulada.
- COMTE-SPONVILLE, André. Pequeno Tratado das Grandes Virtudes. Martins Fontes, 1995. O capítulo sobre compaixão define a virtude como participação real no sofrimento do outro, o que pressupõe que quem oferece pode sofrer junto. É a distinção que este ensaio inteiro orbita.
- ARISTÓTELES. Ética a Nicômaco. A virtude como disposição pressupõe alguém que poderia agir de outra forma e escolhe não fazê-lo. Compaixão como excelência só existe onde existe a possibilidade real de indiferença e de partida.
Para continuar o diálogo
Obrigado por me acompanhar nesta reflexão. Este texto é parte de uma investigação contínua sobre design, IA e narrativa que transborda para a prática no meu estúdio e nas ferramentas que construo. Se as ideias ressoaram, adoraria continuar a conversa.
Onde me encontrar: Pedro Brêtas e pedro@reinostudio.com
Projetos: Reino Studio e Fale com Amia