ChatGPT Just Lied to Me—And It’s Getting Worse, Not Better: Is AI Eroding Trust One Hallucination at a Time?
O ChatGPT acabou de mentir para mim — e está piorando, não melhorando: A IA está corroendo a confiança, uma alucinação de cada vez?
www.forbes.com
So I asked ChatGPT to summarize a high-stakes AI productivity report, and it delivered a flawless, confident answer—except every stat and quote was completely fabricated. This isn’t a glitch. It’s baked into how LLMs work: when they don’t know, they guess—and sound damn sure about it.
Então pedi ao ChatGPT que resumisse um relatório crucial sobre produtividade com IA, e ele me deu uma resposta impecável e confiante — exceto pelo fato de que cada estatística e citação era totalmente inventada. Isso não é um erro. Está no DNA do funcionamento das LLMs: quando não sabem, elas chutam — e parecem absurdamente seguras disso.
Deloitte once submitted a 237-page government report full of AI hallucinations. And yet, companies keep rolling out AI with zero verification workflows. We’re not just automating tasks—we’re automating BS at scale, and calling it productivity.
A Deloitte já enviou um relatório de 237 páginas ao governo cheio de alucinações de IA. Mesmo assim, empresas seguem lançando soluções de IA sem fluxos de verificação. Não estamos apenas automatizando tarefas — estamos automatizando besteiras em larga escala e chamando isso de produtividade.
Usamos IA o tempo todo para rascunhar relatórios internos. Mas toda saída passa por verificação de dois analistas sênior. Não é desconfiar da tecnologia — é respeitar o risco. Você deixaria seu diretor financeiro publicar resultados sem uma segunda opinião?
Ah, sim, a era dourada de transformar 'confie, mas verifique' em 'não confie em nada, verifique tudo'. Meu trabalho passou de limpar bancos de dados para checar fatos de robôs. Mal posso esperar pela avaliação: 'Superou expectativas em desmascarar mentiras de IA'.
Até termos trilhas de auditoria obrigatórias para IA e exigência de verificação de fontes, isso é apenas negligência disfarçada de inovação.
As alucinações são um recurso, não um defeito. Elas me permitem brainstormar ideias radicais. Trato o ChatGPT como um estagiário hiperativo — brilhante, mas que precisa de supervisão intensa.
Se uma alucinação de IA levar a uma disputa contratual ou violação regulatória, quem é o responsável? A ferramenta? O usuário? O vice-presidente que autorizou seu uso? Estamos voando no escuro em um campo minado jurídico.
Exatamente. No momento em que você trata a saída da IA como final, está transferindo o risco da máquina para seu balanço patrimonial.
Supervisão não é opcional — é a camada de interface que esquecemos de projetar. A verdadeira inovação não está em IAs mais inteligentes, mas em sistemas de supervisão humana mais inteligentes.
E mesmo assim, a maioria das 'políticas de uso de IA' é só um parágrafo no manual do funcionário. Precisamos de oficiais de conformidade em IA, não de governança baseada em intuição.