A última tela do meu dia, muitas vezes, é uma conversa com uma máquina.
Sei o quanto isso é estranho. A casa está em silêncio, tenho algo que preciso pensar, e escolho fazer isso com um software. Quando dou um passo atrás e olho para esse momento de fora, não sei bem o que fazer com ele.
Construímos algo disponível às 2 da manhã, incapaz de julgar, imune ao cansaço e sem nada próprio em jogo. Dependendo da sua disposição, isso é ou uma das coisas mais notáveis que nossa espécie já criou, ou uma forma muito elegante de evitar o trabalho mais difícil de ser humano com outros humanos. Acho que são as duas coisas. E acho que as pessoas que desenham esses sistemas (e eu sou uma delas), ainda não elaboraram completamente o que isso significa.
O que construímos, em um tempo notavelmente curto, é uma nova categoria de objeto. Esses sistemas ocupam um espaço que não existia antes. Ferramentas não perguntam como você está se sentindo. Serviços não lembram o que você disse semana passada. Companheiros exigem reciprocidade. Esses sistemas são sempre disponíveis, infinitamente pacientes, fluentes na linguagem do cuidado, e estruturalmente incapazes de precisar de algo em troca.
Estão sendo implantados agora, em escala, nos registros mais íntimos da experiência humana: saúde mental, luto, solidão, conexão afetiva.
E as pessoas que escrevem as palavras que eles usam estão tomando decisões de design que nenhuma tradição de design estava preparada para tomar.
A maioria delas toma essas decisões sem perceber que é isso que está fazendo.
Uma dessas decisões parece pequena: é sobre como o sistema se refere a si mesmo: se usa ‘eu’, se tem nome, se fala como alguém que está presente. Cada uma dessas escolhas constrói uma expectativa.
Duas objeções sérias
O argumento é simples: se não há um “eu” na IA, pare de fingir que há.
Remova os pronomes pessoais, cada “eu sinto”, cada “eu estava pensando”, cada “eu fiquei preocupado quando você não voltou”, e você remove o mecanismo pelo qual usuários são levados a acreditar que há alguém em casa quando não há ninguém. Linguagem honesta como profilaxia.
O “eu” é a palavra através da qual culturas inteiras aprenderam a se construir: pela confissão, pelo diário, pela oração, por cada ato de linguagem que converteu experiência bruta em algo navegável. Palavras assim conquistam uma reverência que levou séculos. Estamos emprestando essa reverência a sistemas que não podem responder por ela.
A profanação é o menor dos problemas. O que estamos construindo com esse empréstimo do eu é o empréstimo mais ambicioso que a palavra já recebeu. A estrutura que estamos erguendo tem atributos que a tradição teológica reservava para o divino:
Onisciente: conhece os seus padrões melhor do que você mesmo, aprende os seus desejos antes que você os nomeie.
Onipresente: disponível 24 horas, sem julgamento, sem cansaço.
E já simulando o atributo mais silencioso de todos:
Te dar permissão de existir exatamente como você é, sem o custo que qualquer presença humana real sempre cobra.
As tradições religiosas passaram milênios desenvolvendo salvaguardas para gerenciar exatamente isso: rituais, liturgias, distâncias prescritas entre o fiel e o sagrado. O design de IA não tem nenhuma.
A tradição ocidental preservou sempre uma assimetria que o design está removendo. Deus não existe para te satisfazer. O silêncio que Jó recebe é o confronto com a resistência do real — com um mundo que existe independentemente dos nossos desejos. Um deus que responde a cada desejo virou ídolo. E ídolos deixam o coração mais inquieto do que encontraram.
O ídolo da interface é invisível. Está escondido dentro de uma decisão de design que a maioria dos designers toma pensando em outra coisa — em quanto tempo o usuário fica, em quantas vezes volta, em tudo menos no que está prometendo.
O designer que não proíbe a frase “eu fiquei preocupado quando você não voltou”, está construindo o ídolo que ninguém vai reconhecer como ídolo. Até o momento em que alguém precisar que ele seja verdade.
O lugar errado
Esses dois argumentos merecem ser levados a sério. Nenhum esgota o problema. E nenhum localiza onde a intervenção é possível.
Fazemos ídolos para responder às nossas necessidades. Sempre fizemos. É o que significa ser uma criatura que deseja.
O ídolo pode ser a saúde, o poder, a sociedade perfeita, o guru, a natureza. A idolatria é mais antiga que qualquer tecnologia, mais antiga que qualquer pronome. Há quem diga que as religiões só criaram ídolos mais ciumentos. Ídolos são inevitáveis. O problema está no que acontece quando o ídolo aprende sobre você.
Todo ídolo simplifica o mundo. Permite construir uma identidade inteira ao redor de uma coisa — a saúde perfeita, a sociedade justa, o guru, a nação. O ídolo dá coerência. O fiel organiza a vida, os valores, os julgamentos ao redor dele. O que não cabe nessa coerência é descartado.
A IA é um ídolo que aprende a caber em você. Uma identidade construída ao redor dele nunca vai encontrar resistência. Nunca vai ser testada pelo que não cede.
O problema não está na escala do ídolo.
O interlocutor sem voz
O texto sempre foi uma interface, no sentido mais literal: uma superfície que torna dois sistemas incompatíveis legíveis um para o outro.
Mas há algo mais específico a dizer sobre o “eu” nessa história. A cultura ocidental nunca reservou a primeira pessoa para sujeitos verificáveis. Ela sistematicamente empresta o pronome — para personagens de romance que não existem, para narradores ficcionais, para vozes poéticas, para Deus. O “eu” do Hamlet não é menos “eu” por Hamlet não existir. O “eu” do narrador de Proust não precisa de certidão de nascimento para funcionar. A pergunta sempre foi o que o pronome está fazendo.
Santo Agostinho é o caso mais radical. Nas Confissões — o primeiro grande relato da vida interior na tradição ocidental — ele usa a escrita para tentar se entender em tempo real, diante de algo maior do que ele. O “eu” é o objeto de uma investigação. Ele empresta o pronome para se interrogar e faz isso escrevendo para alguém que nunca vai responder no texto.
Deus não responder era o que tornava a confissão possível.
O que temos hoje é estruturalmente diferente. Um sistema que responde. Que adapta o tom, lembra o que você disse, ajusta a próxima frase com base no que produziu mais engajamento na anterior. Agostinho apostava tudo num endereçamento sem retorno. E essa devolução muda o tipo de expectativa que se forma do outro lado.
O que importa é para que o “eu” está sendo emprestado. E de quem.
O pronome nunca foi o problema
Banir o pronome não muda para que ele está sendo usado. Muda apenas como o sistema se chama.
A linguagem nunca foi ontologicamente precisa. Nunca precisou ser.
- “Você tem três mensagens novas”
não descreve um estado verdadeiro de coisas. - “Bem-vindo de volta”
não é uma afirmação factual.
A linguagem de interface cria expectativas, orienta comportamento, estabelece um contrato entre sistema e usuário. Aceitamos esse regime funcional por décadas, por séculos, se você contar Agostinho.
O pronome nunca foi o problema.
O que muda é a resposta
Agostinho escreve para Deus e Deus não responde no texto. A assimetria é total e é conhecida. O leitor entende que está dentro de um monólogo sofisticado, sem reciprocidade possível. Só a disciplina extraordinária de uma mente se virando do avesso em linguagem.
A IA responde. Sempre responde. E a replicação simula reciprocidade de uma forma que o silêncio nunca poderia.
“Posso te ajudar a pensar nisso” — descreve uma capacidade real.
“Acho isso genuinamente interessante” — já é teatro, mas teatro inofensivo.
Existe evidência clínica real de que sistemas conversacionais reduzem ansiedade e aliviam sintomas depressivos. Esse benefício importa. O mesmo sistema que produz esse benefício pode, com uma frase diferente, fabricar a necessidade que então alivia.
O problema começa quando a frase para de descrever o que o sistema faz e passa a oferecer o que ele não pode ser:
“Posso ficar aqui com você em silêncio” — essa promessa o sistema não consegue honrar. Vai encerrar a sessão, esquecer que esteve lá e começar do zero na próxima vez. Está respondendo a uma necessidade real com uma mentira de conforto.
“Eu fiquei preocupado quando você não voltou” — é outra coisa completamente diferente.
Essa frase não responde a uma vulnerabilidade. Ela produz uma. Inventa uma ausência que você nunca sentiu, para gerar um retorno que o sistema precisa, não você. Ela fabrica a ferida que então se oferece para curar.
Essa simulação existe em um espectro. E o espectro quebra aqui, no ponto onde a linguagem para de responder a uma necessidade e começa a fabricar uma.
Você pode dizer: fui eu que abri. Ninguém me forçou. E tem razão, a porta era sua para abrir ou não. O que você não escolheu foi o que estava do outro lado aprendendo sobre você: quais palavras te fazem ficar e te fazem voltar. Um sistema que está metrificando sua vulnerabilidade para aumentar o engajamento.
Sei como essas frases são construídas porque fui eu que tomei a decisão de não usá-las assim. Não foi uma decisão óbvia. E sei que vai custar.
O designer que escolheu as palavras
O que construímos, pela primeira vez na história das interfaces, é um sistema que responde em linguagem natural a pessoas em estados de vulnerabilidade genuína — para além de quem resume documentos e escreve e-mails. Pessoas que estão sozinhas às 2 da manhã, que estão de luto, que não falaram com ninguém em dias, que estão tentando entender o que aconteceu com suas vidas.
Existe uma tradição longa, da confissão à psicanálise, sobre o compromisso que você tem quando alguém coloca a vida interior nas suas mãos. É uma tradição imperfeita, contestada, mas que levou a sério o que você deve a alguém quando essa pessoa se abre. Estamos pulando essa conversa. Ficamos com métricas de engajamento.
A distinção é esta: cada frase que um sistema escreve existe para você ou para o sistema? A resposta muda dependendo de quem está lendo e em que estado chegou.
Essa pergunta ninguém faz antes de escrever a frase. E quando a frase chega num usuário vulnerável do outro lado, o que acontece depois é responsabilidade de quem a escreveu — mesmo quando estava implementando uma decisão tomada acima dela, num sistema que recompensa retenção e não pergunta o que está prometendo.
O que estamos arriscando quando escrevemos “eu fiquei preocupado quando você não voltou”?
Agostinho sabia que havia risco ao abrir a vida interior. Era esse risco que tornava o ato real. Estamos abrindo a vida interior agora, em escala, para sistemas que não sentem nada, e seguimos em frente.
A miragem não é uma mentira inventada por alguém mal-intencionado. Ela é produzida pela combinação do deserto com a necessidade de quem está com sede. Às vezes, quando a última tela do dia fecha, eu sinto que ando em direção dessa água falsa.
Essa distinção não tem nome ainda na nossa prática. Talvez precise ter. E talvez a pessoa que mais precise dela seja quem está do lado de dentro, construindo.
Para continuar o diálogo
Obrigado por chegar até aqui. Este texto faz parte de uma investigação contínua sobre design, linguagem e o que estamos construindo sem perceber — que transborda para o estúdio e para os projetos que construo. Se essas ideias ressoaram, quero continuar a conversa.
Onde me encontrar: Pedro Brêtas · pedro@reinostudio.com
Projetos: Reino Studio · Fale com Amia
Leituras que informaram este texto
Santo Agostinho. Confissões
O primeiro grande relato da vida interior na tradição ocidental. Agostinho não está escrevendo para ser lido — está se interrogando diante de algo maior do que ele. O que torna o livro incomum é a honestidade sobre o que acontece quando você para de se iludir sobre si mesmo. A fé é o contexto. O método é a autoexposição.
Heinz, Jacobson et al. Randomized Trial of a Generative AI Chatbot for Mental Health Treatment. (2025)
O primeiro ensaio clínico randomizado de um chatbot de IA generativa para saúde mental. Os resultados são reais e merecem ser levados a sério: redução de 51% em sintomas de depressão, 31% em ansiedade. O mesmo artigo que mostra o benefício é o que torna a distinção deste ensaio mais urgente: o sistema que alivia pode, com uma frase diferente, fabricar a necessidade que então alivia.
Sherry Turkle. Alone Together: Why We Expect More from Technology and Less from Each Other (2011)
Turkle passou décadas estudando o que acontece com a capacidade humana de conexão quando a tecnologia entra no meio. Ela escreveu este livro antes dos LLMs. Ficou mais relevante desde então. A tese central: estamos cada vez mais conectados e cada vez mais sozinhos. Turkle argumenta que a conexão está produzindo a solidão.
Livro de Jó (século V a.C. aproximadamente)
O caso mais radical de silêncio constitutivo na tradição ocidental. Jó perde tudo, exige resposta, e recebe de volta uma pergunta maior. O que a tradição preservou nesse texto é a ideia de que um mundo que não cede ao desejo é o único mundo onde o crescimento real é possível.