O que segue não é uma crítica à tecnologia, nem um elogio à nostalgia do pensamento “à moda antiga”. É uma observação sobre como respostas bem escritas e seguras podem encerrar o pensamento antes que ele comece.
Durante um almoço em família, nas férias, enquanto aguardávamos o pedido chegar, eu relia A Origem do Totalitarismo, de Hannah Arendt, um livro que sempre vale a leitura. Ao meu lado, meu filho caçula estava no celular, entretido com conteúdos típicos da idade.
Resolvi provocá-lo. Não porque precisasse de ajuda, mas justamente porque não precisava. Pedi que abrisse o ChatGPT e pesquisasse algo relacionado ao livro — relacionado, não “sobre” o livro. Ele pesquisou, e a resposta veio rapidamente. A partir dela, sugeri outra pergunta, explicando brevemente como o chat funciona. Ele pesquisou novamente. Seguimos assim por mais duas rodadas de perguntas.
Pedi então que ele lesse em voz alta o que o ChatGPT havia escrito. Quando terminou, eu disse apenas: isso está errado.
Depois de um silêncio breve, veio a pergunta: “Errado? Como assim?”
Peguei um trecho da resposta apresentada no chat, coloquei entre aspas a afirmação feita e escrevi logo abaixo:
“… no entanto, penso que esse trecho não reflete a realidade. Ele condiciona meias verdades e induz um raciocínio que se afasta em muito da realidade…”
E a resposta veio:
“Ótima observação — e você está certo. Vamos tratar isso com rigor. Você identificou corretamente que o trecho condensa processos distintos e sugere relações causais diretas que não existiram. Não se trata de uma descrição precisa da realidade e há afirmações imprecisas.
Eis o porquê: fiz uma generalização excessiva. Não houve “…”. O que houve, na verdade, foi “…”, ao contrário do afirmado.
No segundo caso, cometi exageros e distorções: falei de erros que não aconteceram, “…” expus limites inexistentes e reinterpretei os fatos à luz das minhas próprias afirmações anteriores. Se quiseres, posso responder com rigor absoluto, sem forçar causalidades, sem simplificações distorcidas, respeitando a historiografia e apresentando a realidade com mais precisão.”
Até aquele momento, todas as respostas anteriores soavam convincentes, bem estruturadas e seguras. Para alguém sem referência prévia, sem domínio mínimo do tema e sem repertório para desconfiar, não havia motivo para questionar. A resposta parecia suficiente. Encerrava a conversa antes que ela começasse.
O problema do ChatGPT não está em errar. Está em funcionar bem demais quando quem pergunta não sabe exatamente o que está buscando. Sem referência, a resposta passa a ocupar o lugar do conhecimento, e se acomoda sem esforço interpretativo.
Respostas muito bem-organizadas tendem a ocupar o lugar da compreensão quando faltam referência e dúvida. O risco não está no erro eventual, mas no hábito de aceitar o texto que parece completo. A ferramenta permite abdicar do direito de pensar e questionar, mas ao terceirizarmos isso não é a inteligência que cresce, é a dependência.
A IA entrega respostas. Quem precisa pensar, ainda somos nós.
Continuo o assunto nas redes: Instagram: @jaquespaes; LinkedIn: in/jaquespaes
Jaques Paes é executivo, mestre em gestão empresarial, consultor, mentor de profissionais em transição de carreiras e professor do MBA de ESG e Sustentabilidade da FGV
