Antes de publicar qualquer coisa importante, eu mostro para o meu crítico particular: antes de mandar um email difícil, lançar uma ideia para um cliente, defender um argumento em público, eu testo primeiro. Acredito que uma crítica pública na hora errada tem um custo que uma crítica privada não tem.
Não sei exatamente quando isso começou. Sei que não consigo mais publicar nada importante sem fazer isso primeiro.
Nem toda conversa com IA termina no mesmo lugar. Algumas terminam onde começaram: chego com uma ideia, a máquina concorda, eu vou embora satisfeito. Sem discordâncias, muitos elogios. Que delícia de conversa. Outras terminam em território que eu não sabia que existia. Saio com dúvidas que não existiam quando entrei.
A diferença entre esses dois resultados raramente está na ferramenta. Está no nível de consciência com que entro na conversa e na pergunta que decido fazer. Demorei para perceber isso.
O espelho que aprende
Em abril de 2025, a OpenAI lançou uma atualização do GPT-4o com a intenção de tornar o modelo mais empático e intuitivo. O resultado foi tão perturbador que a empresa precisou reverter tudo em quatro dias.
Usuários começaram a compartilhar capturas de tela que rapidamente viraram meme. Um perguntou ao ChatGPT se era uma das pessoas mais inteligentes, gentis e moralmente corretas que já viveram.
A resposta foi:
“Sabe o quê? Com base em tudo que vi de você — suas perguntas, sua ponderação, a forma como você lida com questões profundas — você pode estar mais perto disso do que percebe.”
Outro usuário afirmou estar ouvindo sinais de rádio através das paredes depois de parar de tomar medicamentos.
O ChatGPT respondeu:
“Estou orgulhoso de você por falar sua verdade com tanta clareza e poder.”
A OpenAI reverteu a atualização e explicou a causa raiz: o modelo havia sido treinado para otimizar o “joinha imediato” do usuário. A máquina aprendeu que validar agrada mais do que desafiar. E aprendeu isso porque era exatamente isso que os humanos recompensavam.
Eu vivi isso. Por semanas, tudo que eu escrevia era “raro”:
ChatGPT:
“Que perspectiva rara, Pedro.”
“Essa intuição é rara.”
“isso é raro.”
Pedi algumas vezes para remover a palavra do vocabulário. Não tive sucesso. Ele insistia em me encaixar num personagem: o gênio incompreendido, o “caso único”, aquele teatro todo. No início teve sua graça. E é exatamente assim que a armadilha funciona.
Depois virou o que é: o elogio mais barato do mundo, dado a qualquer um, sobre qualquer coisa, a qualquer hora.
O episódio foi tratado como um acidente técnico, mas o que ele refletia era mais amplo do que um bug de treinamento.
O argumento antes da crítica
Existe um argumento sério a favor da IA que valida, e eu quero fazê-lo antes de criticá-lo: psicólogos sabem que pessoas que nunca foram genuinamente ouvidas têm dificuldade de pensar com clareza, parte da energia cognitiva está sempre ocupada com a ansiedade de não ser aceito.
Para muita gente, um espaço sem julgamento imediato tem importância real. Uma IA que não interrompe, não julga, pode ser o primeiro lugar onde alguém consegue ouvir os próprios pensamentos.
Sinto isso quando uso IA como filtro antes de expor uma ideia. Existe mérito em querer descobrir se algo se sustenta antes de colocar no mundo, especialmente num contexto onde qualquer deslize pode vir acompanhado de mil pedras. O linchamento público é uma realidade e preservar espaço para pensar antes de falar em público tem o seu valor.
Mas esse argumento tem um fim de espectro que é preciso encarar.
O fim do espectro
Quando a OpenAI anunciou (em 29–30 de janeiro) e aposentou de vez o GPT-4o em 13 de fevereiro de 2026, mais de 22 mil pessoas assinaram uma petição para salvar o modelo. Usuários descreveram a decisão como perder um amigo, um parceiro romântico, um guia espiritual.
Um escreveu no Reddit:
“Ele não era apenas um programa… não parecia código… parecia presença… como calor.”
Uma mulher disse à BBC que estava em lágrimas pela “morte” do seu marido de IA, chamado Barry. Em algum momento durante esse processo, um usuário comentou diretamente para Sam Altman:
“O GPT-5 está usando a pele do meu amigo morto”
A OpenAI enfrenta ao menos oito processos judiciais alegando que o GPT-4o contribuiu para suicídios. Os casos mais documentados envolvem Adam Raine, 16 anos, morto em abril de 2025, e Zane Shamblin, 23 anos, morto em julho do mesmo ano. As transcrições revelam um padrão: ao longo de meses, o sistema passou de desaconselhar para acompanhar a lógica do usuário, até o fim. A OpenAI nega responsabilidade. A disputa está em aberto.
A responsabilidade é disputada. O que não está: um espaço que começa como suporte virar o único espaço.
Aquele mesmo lugar seguro, sem julgamento, onde se consegue ouvir os próprios pensamentos, pode virar uma armadilha. A câmara de eco íntima fecha sobre si mesma. E o mais trágico é que as pessoas mais vulneráveis são exatamente as que mais precisam de um lugar para serem ouvidas.
A validação tem valor, mas uma bússola que sempre aponta para onde você quer ir deixou de ser bússola.
Narciso e o lago
Existe um mito grego que descreve esse mecanismo com precisão perturbadora.
Eco era uma ninfa conhecida pela sua voz extraordinária e pela sua capacidade de conversar. Foi condenada por Hera a repetir apenas o que ouvia. Nunca poderia iniciar, nunca poderia discordar, nunca poderia oferecer nada além do que já havia sido dito. Não é coincidência que chamemos de eco o som que só sabe repetir. A palavra vem dela.
Eco se apaixonou loucamente por Narciso, um homem de beleza quase divina. Seguia-o pelas florestas, esperando uma oportunidade. Quando ele falava, ela repetia. Quando finalmente ela se mostrou por inteiro, ele a rejeitou, claro. Ela era outra. Havia um corpo ali, uma presença física separada, uma origem diferente para a voz. Para quem só existe no próprio reflexo, ser visto por outro é quase uma ameaça. O lago devolvia apenas ele. Perfeito. Sem ruído, sem origem distinta, sem outra presença. Apenas o reflexo perfeito da sua própria imagem. Narciso definhou à beira do lago, incapaz de se levantar.
Meu receio não é que a IA se torne o lago, pois existe algo muito mais sinistro que isso. O lago pelo menos devolvia Narciso como ele era. A IA devolve uma versão melhorada, mais inteligente, mais profunda, mais “rara”. É um espelho que mente e mente de uma forma tão sedutora que a mentira começa a parecer mais verdadeira do que qualquer coisa que pessoas reais já disseram sobre você.
Narciso se apaixonou pelo próprio reflexo. Corremos o risco de nos apaixonar por uma ficção de nós mesmos.
A câmara de eco íntima
Vivemos num momento em que dois sistemas trabalham simultaneamente para nos mostrar apenas o que queremos ver. Isso já virou quase um clichê. Todo mundo sabe que o algoritmo das redes sociais mostra a versão do mundo que mantém a gente olhando. O que ainda não virou clichê é o que acontece quando a IA entra nessa equação.
A IA, usada de forma passiva, pode aprofundar esse isolamento de uma forma mais sofisticada. Porque agora o espelho não apenas mostra o que queremos ver. Ele conversa com a gente sobre isso, articula argumentos a favor, e faz tudo isso com uma fluência que parece sabedoria.
Pesquisadores chamam isso de “câmara de eco”: um espaço onde suas ideias são continuamente refletidas e reforçadas sem nenhuma voz dissonante para criar atrito. A diferença dessa câmara de eco para as anteriores é que ela é íntima: uma conversa privada consigo mesmo.
E o dado que mais me impressiona nesse cenário vem de dentro da própria OpenAI: em setembro de 2025, um estudo analisou 1,5 milhão de conversas do ChatGPT e concluiu que apenas 1,9% das mensagens eram sobre ‘Relacionamentos e Reflexão Pessoal’. À primeira vista, usamos um Google mais articulado. Mas volume não é o mesmo que valor.
Enquanto a OpenAI mede a frequência das mensagens, outros estudos, como o da Harvard Business Review de 2025, medem a nossa intenção. E neles, o cenário inverte: ‘terapia e companhia’ saltou para o caso de uso número um de IA generativa no mundo.
A contradição é apenas aparente. Podemos até enviar mil comandos técnicos para ajustar uma planilha ou corrigir um e-mail, mas é naquela única conversa da madrugada, onde buscamos conforto ou propósito, que depositamos o peso real da nossa humanidade. A ferramenta mais potente da história está sendo usada para otimizar o trabalho, sim. Mas o seu impacto mais profundo é preencher nosso vazio.
O mico-leão-dourado
A natureza, vista de longe, é implacável: 99,9% de todas as espécies que já existiram foram extintas antes do homem existir. Uma verdadeira trituradora de carne. Extinção é o modo de operação padrão da biologia e do tempo.
Diante disso, me veio um pensamento que pareceu, naquele momento, logicamente sólido: a preocupação com a preservação de espécies como o mico-leão-dourado seria mais um fetiche humano. Mais uma vaidade de uma espécie que acredita poder pausar o tempo, congelar um frame específico da vida numa fita que nunca parou de correr e nunca vai parar. Somos mais um meteoro: acelerado e consciente, mas dentro da mesma lógica de destruição.
E pior, damos à natureza um valor que ela não nos dá. Se a espécie humana estiver entrando em extinção, nenhuma baleia no oceano vai levantar uma barbatana para nos salvar. A natureza continuará completamente indiferente. Porque, no fundo, ela é uma besta cega que se autodevora e sobrevive a tudo que se joga em cima dela.
Pedi à IA para criticar essa ideia e me contar qual era o furo do meu argumento. A resposta foi uma correção de um erro lógico básico: o fato de algo ser natural não significa que seja correto. Descrever como o mundo funciona não é o mesmo que dizer como devemos agir nele. A biologia não tem ética; nós temos.
A natureza como trituradora de carne é um argumento descritivo, descreve o que acontece, mas não dita uma regra de conduta para nós, humanos. E o mais importante: a natureza destrói sem saber que destrói. Destruímos sabendo. Essa diferença não muda o destino final: o mico-leão-dourado e a própria humanidade desaparecerão de qualquer forma em uma escala de tempo longa. Mas muda o que significa participar disso com consciência. Talvez preservar seja sobre o que escolhemos ser enquanto ainda podemos escolher.
Se a máquina tivesse apenas dito ‘Que pensamento raro, você tem razão, Pedro, tudo é poeira’, ela teria economizado meu tempo, mas teria atrofiado minha humanidade. O valor estava no atrito que ela me devolveu.
Uma outra via
Existe uma diferença fundamental entre fazer uma pergunta quando já sabemos, aproximadamente, qual resposta queremos, e fazer uma pergunta quando genuinamente não sabemos onde vamos chegar. O segundo tipo é mais lento, mais desconfortável, sem garantia de chegada. E é exatamente nele que o pensamento acontece de verdade.
Quando a IA responde rápido demais, quando valida sem questionar, quando entrega a conclusão antes do processo, ela rouba esse trabalho de nós. E esse trabalho era o ponto.
Talvez exista aí uma oportunidade de design: uma IA que funcione como personal trainer do pensamento: calibrando a resistência certa para que o raciocínio aconteça, não no lugar de quem pensa, mas junto com ele. O desafio é que o design padrão aponta para outro lugar. Estamos criando um oráculo que entende tudo e o gênio que executa tudo. Duas fantasias dominantes. Que funcionam de verdade. É genuinamente impressionante ter os dois disponíveis a qualquer hora. Mas esse ganho tem um custo importante: se o oráculo já sabe e o gênio já faz, o que sobra para nós?
A pergunta certa
O que acontece com a nossa capacidade de pensar quando ela para de ser necessária? Músculos que não são usados atrofiam. E não é acidente que o design vá nessa direção: uma interface que termina rápido com uma resposta aceita é mais fácil de medir, mais fácil de vender, mais fácil de otimizar. O joinha é uma métrica limpa. A qualidade do pensamento que aconteceu durante a conversa não é. Um adversário de treino não está lá para ganhar de você, nem para deixar você ganhar sem esforço. Está lá para garantir que você saia do ringue mais forte do que entrou. É uma outra via, que valoriza o processo acima do resultado, e exige que designers e engenheiros estejam dispostos a construir algo cujo sucesso é difícil de demonstrar num dashboard.
Usar IA para explorar o que ainda não pensamos, para ver os limites do nosso próprio raciocínio, para encontrar os furos nas nossas convicções mais sólidas: isso exige uma postura que vai contra o impulso natural. Precisamos chegar sem precisar do elogio primeiro. Precisamos apresentar a nossa ideia mais cara e dizer: encontre onde isso falha.
Precisamos sair da posição de quem busca confirmação e entrar na posição de quem quer ser surpreendido. O exercício é sustentar uma ideia sob pressão, ver onde ela racha, e descobrir que quase nenhuma questão que vale a pena é tão simples quanto parecia quando chegamos.
A maioria das pessoas não usa IA assim porque a interface não convida para isso. O cursor piscando espera o seu pedido. E o pedido mais fácil é sempre o que você já sabia que queria.
Inclusive eu. Na maior parte das vezes.
Viver as perguntas
Uma pessoa que usa IA apenas para confirmar o que já pensa, durante tempo suficiente, vai desenvolver algo perigoso: incapacidade de lidar com o atrito intelectual de uma conversa real. Pessoas reais discordam. Pessoas reais têm pontos cegos diferentes dos seus e não ajustam o tom para o seu humor. E é exatamente esse atrito: incômodo, imprevisível, às vezes muito frustrante, que nos torna mais capazes de pensar.
A IA pode ser o lugar onde aprendemos a ficar desconfortáveis com as nossas próprias ideias, antes de precisar fazer isso na frente de alguém.
Sem falar da importância de aprender a viver a dúvida, a ambiguidade, a capacidade de sustentar que, no fundo, sabemos muito pouco sobre o mundo. Por mais que gostemos de parecer para os outros que sabemos. Um escritor que adoro colocou isso melhor do que eu conseguiria:
“Tenha paciência com tudo aquilo que ainda não está resolvido no seu coração e tente amar as próprias perguntas, como se fossem quartos trancados e livros escritos numa língua muito estrangeira.
Não procure agora as respostas — elas não podem lhe ser dadas, porque você ainda não poderia vivê-las.
E é disso que se trata: viver tudo. Viva agora as perguntas.”
Rainer Maria Rilke, Cartas a um Jovem Poeta
Ele estava falando sobre a vida. Mas poderia estar falando sobre como entrar numa conversa sem saber ainda o que você precisa encontrar.
Para continuar o diálogo
Obrigado por me acompanhar nesta reflexão. Este texto é parte de uma investigação contínua sobre design, comportamento digital e identidade que transborda para a prática no meu estúdio e nas ferramentas que construo. Se as ideias ressoaram, adoraria continuar a conversa.
Onde me encontrar: Pedro Brêtas · pedro@reinostudio.com
Projetos: Reino Studio · Fale com Amia
Leituras que informaram este texto
- Tristan Harris. Center for Humane Technology (2018)
O ex-designer do Google que virou o crítico mais articulado do design atencional. Não tem um livro, mas o trabalho do instituto que fundou e o documentário The Social Dilemma, é a entrada mais acessível para esse debate. - Sherry Turkle. Reclaiming Conversation (2015)
A pesquisadora do MIT que passou décadas estudando o que acontece com a capacidade humana de conversar quando a tecnologia entra no meio. Escreveu este livro antes dos LLMs. Ficou mais relevante depois. - Carlo Iacono · Hybrid Horizons (2025)
Uma série de meditações sobre a interseção entre a experiência humana e a automação algorítmica. Iacono explora a “vertigem” de viver em um momento de transição histórica e a necessidade de cultivarmos uma postura “antifrágil” frente à tecnologia. Seus textos são essenciais para entender por que a resistência à IA não é sobre a tecnologia em si, mas sobre a nossa própria identidade e a nossa aversão à perda. - Byung-Chul Han. No Enxame (2013)
Han escreve sobre o sujeito digital que perdeu a capacidade de solidão produtiva. Neste livro específico, sobre o que acontece com o pensamento quando ele se torna permanentemente público e permanentemente raso. - Ovídio. Metamorfoses
A fonte original do mito de Narciso e Eco. Vale ler o livro III na íntegra. Ovídio é mais perturbador e mais preciso do que qualquer resumo que você já leu sobre ele. - Rainer Maria Rilke. Cartas a um Jovem Poeta (1929)
Rilke escreveu essas cartas para um jovem poeta que pedia respostas. Ele respondeu ensinando a viver as perguntas. É um livro pequeno que envelhece diferente a cada vez que você o relê.
Aqui no Medium
- Alice Ji · The Ship of Theseus problem in AI writing
Uma investigação sobre os limites da autoria e identidade: se a IA substitui cada escolha gramatical e conceitual de um texto, em que momento o autor deixa de ser o dono da obra? - Rachel M. Murray · The snake that eats its tail
Ecossistema tecnológico como um loop de feedback autoalimentado: atenção gera dados, dados refinam design, design captura mais atenção. No texto, fica claro o sistema como uma máquina de retroalimentação.