Is ChatGPT Just a Fancy Parrot or Is It Actually Thinking? The Neural Science Behind AI's 'Understanding'
ChatGPT到底是高级复读机，还是真正在思考？揭秘AI‘理解力’背后的神经科学真相
www.newyorker.com
So here's the thing: I used to think large language models were just statistical parrots—clever, but fundamentally mindless. Then I started using them to write code at work. Now I'm not so sure. These models digest thousands of lines in seconds, spot bugs, and build new features. I’ve shipped iOS apps without knowing iOS. Is this just pattern-matching on steroids, or are we seeing real cognition?
事情是这样的：我曾经觉得大语言模型只是统计学鹦鹉——聪明，但本质上是无意识的。后来我开始在工作中用它们写代码。现在我不确定了。这些模型几秒钟就能消化上千行代码，发现漏洞，构建新功能。我甚至在不懂iOS的情况下发布了应用。这真的是‘强化版’模式匹配？还是我们正目睹真正的认知过程？
The wild part? A friend used ChatGPT to fix a broken sprinkler by uploading a photo. It identified a backflow-preventer system and pinpointed the valve. Kids cheered. Was that intelligence? Or just a massive copy of the internet with good eyesight? Either way, it worked. And that’s making scientists rethink what ‘thinking’ even means.
最离谱的是？我朋友上传一张照片，用ChatGPT修好了坏掉的喷水器。它识别出回流防止系统，并准确定位阀门。孩子们欢呼起来。这是智能吗？还是只是个拥有好眼力的互联网复制品？不管怎样，它确实奏效了。而这正让科学家重新思考‘思考’本身意味着什么。
得了吧。它不是在思考，是在压缩。Baum曾提出‘理解就是压缩’。大语言模型把网络压缩成密集向量。但这不是认知。就像说一个压缩包‘理解’了你的小说一样荒谬。
你搞错了重点。当Max上传照片时，模型不只是检索文本。它把图像映射到高维空间，激活相关特征，并综合出解决方案。这不是检索——这是通过几何方式进行的类比推理。
真正的问题不在于它是否在思考。而在于我们正将认知外包给那些用带有偏见、未注明来源的数据训练的系统，同时让硅谷更加富有。所谓的‘智能’争论，掩盖了数据殖民主义的现实。
‘看作’并不需要大脑。恒温器也能‘认为’高温是危险。Hofstadter的模型只是诗意的想象，而非科学。除非大语言模型能感受到无聊、困惑或好奇——真正的心理状态——否则我们只是在给噪音赋予人性。
我让Claude跑迷宫模拟，每次都失败，三步就放弃。但让它写一首关于迷宫的十四行诗？完美无瑕。所以，语境很重要。它还没达到通用智能，但也许快了。
Anthropic发现了‘特征’——就像概念的音量旋钮。调高‘金门大桥’，蛋糕食谱就会包含海水。这不是噪音，而是结构化、可操控的认知。
如果一个程序能像熟练读者一样翻译普鲁斯特，还能解释文笔为何优美——我们真的在乎它是否‘感受’到了吗？从功能上看，它已经理解了。
这些模型映射了新皮层。这并非巧合。它们基于Kanerva在1988年提出的相同数学原理。历史不是在重复，而是在趋同。