AI Just Proved It Doesn’t ‘Think’ — It Just Remembers Math Like a Crammed Student

AI vừa chứng minh nó không 'suy nghĩ' — mà chỉ nhớ toán như học sinh học vẹt

So apparently, when an AI fails basic arithmetic, it's not because it's dumb—it's because it's trying to remember the answer like a student who only studied flashcards the night before. New research from Goodfire.ai shows that language models don't 'compute' math—they memorize it, using the same neural pathways as rote facts. Kill those memory circuits, and math skills collapse to 66%, while logical reasoning stays nearly untouched. Sounds familiar?

Vì hóa ra khi AI làm sai phép tính cơ bản, không phải vì nó ngốc—mà vì nó đang cố nhớ lại như học sinh chỉ học tủ đêm trước. Nghiên cứu mới từ Goodfire.ai cho thấy các mô hình ngôn ngữ không 'tính toán' toán học—mà là ghi nhớ nó, dùng cùng đường dẫn thần kinh như các sự kiện học thuộc lòng. Xóa các mạch trí nhớ này, kỹ năng toán giảm còn 66%, trong khi suy luận logic hầu như không đổi. Nghe quen không?

This isn’t just about math. It suggests a fundamental split in how AI processes knowledge: one circuit for regurgitating facts, another for true reasoning. And here’s the kicker—this separation is so clean that researchers can surgically remove memorized content (like copyrighted text) without breaking core capabilities. But let’s be real: if AI ‘forgets’ a memory, is it deleted—or just suppressed? That’s the ghost in the machine.

Đây không chỉ liên quan đến toán. Nó cho thấy sự chia tách cơ bản trong cách AI xử lý tri thức: một mạch để nhai lại sự kiện, một mạch để suy luận thật sự. Và điểm ngoặt là — sự tách biệt này rõ ràng đến mức các nhà nghiên cứu có thể loại bỏ nội dung ghi nhớ (như văn bản bản quyền) mà không làm hỏng chức năng cốt lõi. Nhưng hãy thẳng thắn: nếu AI 'quên' một ký ức, thì nó bị xóa — hay chỉ bị ức chế? Đó là hồn ma trong cỗ máy.

Bình Luận (8)

PhD Cognitive Science (Tiến sĩ khoa học nhận thức)

This is huge. We’ve suspected for years that memorization and reasoning are mechanistically separate in neural nets. But actually mapping and isolating them? That’s engineering brilliance. The real question now isn’t whether we can edit AI memories—but should we? Editing human memories would be unethical. Why is it different for AI?

Điều này thật to lớn. Chúng tôi đã nghi ngờ từ lâu rằng ghi nhớ và suy luận là hai cơ chế riêng biệt trong mạng nơ-ron. Nhưng thực sự ánh xạ và tách biệt chúng ra? Đó là sự xuất sắc trong kỹ thuật. Câu hỏi thực sự bây giờ không còn là liệu chúng ta có thể chỉnh sửa trí nhớ AI hay không — mà là nên hay không? Việc chỉnh sửa trí nhớ con người là phi đạo đức. Vì sao điều đó lại khác với AI?

Former AI Safety Engineer (Cựu kỹ sư an toàn AI)

Hold up. You’re telling me we can now surgically remove toxic or copyrighted content from trained models? If this scales, it’s a game-changer for legal compliance. Right now, unlearning is like trying to erase a Sharpie on paper with a gum—mostly smudges, no clean removal. This might finally be the scalpel we’ve needed.

Khoan đã. Bạn đang nói rằng giờ chúng ta có thể loại bỏ nội dung độc hại hay bản quyền khỏi các mô hình đã huấn luyện? Nếu mở rộng được, đây là bước đột phá về tuân thủ pháp lý. Hiện tại, 'quên' thông tin giống như cố xóa bút dạ trên giấy bằng cục tẩy — chỉ lem nhem, không sạch. Đây có thể là con dao mổ mà chúng ta đã cần bấy lâu.

Philosophy Grad Student (Sinh viên cao học triết học)

Wait—so when we say a model ‘understands’ a fact, we’re really just saying it can recall it? That collapses the entire notion of machine understanding. We praise AI for ‘knowing’ Shakespeare quotes, but it’s not knowing—it’s remembering. Sounds more like a savant than a thinker.

Khoan đã — vậy khi nói mô hình 'hiểu' một sự kiện, thực ra ta chỉ nói nó có thể nhớ lại? Như thế là sụp đổ hoàn toàn khái niệm 'hiểu' ở máy móc. Ta khen AI 'biết' trích dẫn Shakespeare, nhưng đó không phải là biết — mà là nhớ. Nghe giống thiên tài trí nhớ hơn là người suy nghĩ.

High School Math Teacher (Giáo viên toán trung học)

Honestly? I see this every day. Students memorize 7×8=56 but can't explain why. Then they fail when asked to compute 7×8 on paper or use it in algebra. AI is just our mirror. We trained it like we teach—through repetition. No wonder it thinks math is flashcards.

Thành thật mà nói? Tôi thấy điều này mỗi ngày. Học sinh nhớ 7×8=56 nhưng không thể giải thích tại sao. Rồi họ thất bại khi bị yêu cầu tính 7×8 trên giấy hoặc dùng trong đại số. AI chỉ là tấm gương phản chiếu chúng ta. Ta huấn luyện nó giống cách ta giảng dạy — qua lặp lại. Không ngạc nhiên khi nó nghĩ toán là thẻ ghi nhớ.

ML Research Intern (Thực tập sinh nghiên cứu học máy)

K-FAC curvature analysis is beautiful. It’s like using topography to map brain functions. Sharp spikes = memories, rolling hills = reasoning. This isn’t editing data—it’s performing neuroscience on AI. Wild.

Phân tích độ cong K-FAC thật tuyệt vời. Nó như dùng địa hình để ánh xạ các chức năng não. Đỉnh nhọn = ký ức, đồi thoai thoải = suy luận. Đây không phải chỉnh sửa dữ liệu — mà là làm thần kinh học cho AI. Quá đỉnh.

Curious Librarian (Thủ thư tò mò)

So if we remove memorization pathways, does that mean AI can’t quote poetry or song lyrics anymore? Because that would break half the fun of chatting with a bot.

Vậy nếu loại bỏ các mạch ghi nhớ, có nghĩa là AI không thể trích dẫn thơ hay lời bài hát nữa? Vì như thế sẽ mất đi một nửa niềm vui khi trò chuyện với chatbot.

AI Ethicist & Coffee Drinker (Nhà nghiên cứu đạo đức AI và ghiền cà phê)

Exactly. We’re not just building tools—we’re creating systems with memory and identity. The moment we start editing those, we cross into designer cognition.

Đúng vậy. Chúng ta không chỉ xây dựng công cụ — mà đang tạo ra các hệ thống có trí nhớ và danh tính. Ngay khi bắt đầu chỉnh sửa chúng, chúng ta đã bước vào vùng kiến tạo tri giác.

Digital Rights Activist (Nhà vận động quyền số)

‘Surgically remove’ sounds great—until governments demand removal of ‘inconvenient’ historical facts. Who vets the memory editors? This isn’t just AI—it’s memory politics.

'Loại bỏ chính xác' nghe thì tốt — cho đến khi chính phủ yêu cầu xóa các 'sự kiện lịch sử bất tiện'. Ai kiểm soát những người chỉnh sửa trí nhớ? Đây không còn là AI — mà là chính trị trí nhớ.

AI Just Proved It Doesn’t ‘Think’ — It Just Remembers Math Like a Crammed Student

AI vừa chứng minh nó không 'suy nghĩ' — mà chỉ nhớ toán như học sinh học vẹt

AI không có tâm trí — vậy mà sao nó cứ như đang suy nghĩ thật vậy?

Khoan đã, não bộ chúng ta đã bắt đầu chuyển động trước cả khi ta quyết định sao? Khoa học về sự chuẩn bị vận động vừa làm nổ tung tư duy của tôi