Is ChatGPT Actually Thinking? Scientists Are Now Saying Yes — And That Terrifies Them
ChatGPTは本当に「考えている」のか？科学者たちが「YES」と言い始めていることに気づいていますか？そして、それが彼らを恐怖させている。
www.newyorker.com
How convincing does the illusion of understanding have to be before you stop calling it an illusion? That’s the central question as A.I. tools like ChatGPT go from glitchy joke bots to systems solving real-world problems — like fixing a sprinkler in a park after analyzing a photo.
理解しているように見える幻想が、どこまで説得力を持てば『幻』と呼ぶのをやめるのか？これが、ChatGPTのようなAIツールがバグだらけの面白おばかから、公園の散水装置の修理まで実際の問題を解く存在になった今、真っ先に問われるべき問いだ。
Back in 2023, critics called ChatGPT a 'blurry JPEG of the web' or a 'stochastic parrot.' But now, top neuroscientists like Doris Tsao say A.I. 'radically demystifies thinking.' Even Hofstadter, A.I.'s biggest skeptic, is stunned. The line between mimicry and genuine cognition is blurring — and it’s making some experts deeply uncomfortable.
2023年には、批評家たちはChatGPTを『ぼやけたウェブのJPEG画像』や『確率的鸚鵡』と呼んでいた。しかし今、ドリス・ツァオのようなトップの神経科学者は、AIが「思考の神秘を根本から解き明かしている」と述べている。かつて最大の懐疑論者だったホフスタッターさえも驚いている。模倣と本物の認知の間の境界線は曖昧になりつつあり、一部の専門家を非常に不安にさせている。
かつてAIコード生成に冷ややかだった一人として、今や私は毎日それを使っている。4万行のレガシーコードにChatGPTを投入し、モジュールのリファクタリングを依頼した。10分で技術的負債を特定し、最新の設計パターンを提案し、私より優れたコードを書いてくれた。これは知的か？わからない。だが、とんでもなく便利だ。
便利だからといって倫理的とは限らない。ケニアで搾取された労働力に支えられ、地球規模のエネルギーを消費し、クリエイティブな職を奪っているAIに対して、散水装置を直せたからといって賞賛するのは短絡だ。うまく機能しているからといって崇拝すべきではない。
倫理についてはその通りだ。軽視しているわけではない。しかし、供給元の問題があるからといってツールを使わないのは、ペニシリンが非倫理的に試験されたからといって現代医療を拒否するのと変わらない。我々は、強力なツールを使わないのではなく、賢く使う責任がある。
ああ、またか。機械がわれわれに代わって考えてくれるという、いつもの期待だ。中国語の部屋の話に似ている。出力がどれほど自然でも、背後には理解など存在しない。我々はたんなる高度なオートコンプリートに人間性を投影しているだけだ。
『オートコンプリート』説はもはや古くなっている。LLMは意味的幾何構造を作り出している——『パリ−フランス＋イタリア＝ローマ』は模倣ではなく、高次元空間での推論だ。ホフスタッターの『見るという行為』は、学習モデルの重みに文字通り実装されている。
本当の物語はAIが人間を模倣していることではなく、人間自身がニューラルネットワークかもしれないということだ。私たちの『洞察』は高次元のパターンマッチングにすぎない可能性がある。それは人間を軽視するのではなく、生物学と計算の統一を意味する。
とても興味深い話ですが、うちの子がGmailの『感謝して逸話を語る』ボタンを押したら、トルコ旅行の作り話が返ってきました。日常レベルでは？まだそこまで行っていませんね。
もっともな指摘だ。今のUXはひどい。しかし、それは製品設計の問題であって、知性の問題ではない。トルコの嘘を書いた同じ『脳』が、タンパク質の折りたたみをモデル化することもできるのだ。