AI Just Proved It’s a Parrot, Not a Thinker — Why Can’t GPT-5 Do Math Without Memorizing?
أثبت الذكاء الاصطناعي للتو أنه مجرد ببغاء، ليس فكّارًا — لماذا لا يستطيع نموذج مثل GPT-5 إجراء العمليات الحسابية دون حفظ؟
arstechnica.com
New research from Goodfire.ai suggests that language models like GPT-5 don’t actually ‘think’—they memorize. The team found clean neural separation between memorization and reasoning, so sharp that you can surgically remove the former while leaving the latter intact. That means when AI answers questions logically, it’s not using the same circuits that recall facts.
تُشير أبحاث جديدة من شركة Goodfire.ai إلى أن النماذج اللغوية مثل GPT-5 لا «تفكر» فعليًا — بل تحفظ. وجد الفريق انفصالًا عصبيًا واضحًا بين الحفظ والاستدلال، حادًا لدرجة تسمح بإزالة الأول جراحيًا مع بقاء الثاني سليمًا. وهذا يعني أن النموذج عند إجابته على الأسئلة منطقيًا، لا يستخدم الدوائر نفسها التي تتذكّر الحقائق.
But here’s the kicker: arithmetic operations — like 2+2 — live in the memorization pathway, not logic. When they disabled memorization, math scores dropped to 66%. So your AI isn’t calculating — it’s recalling what it’s seen before. It’s like a student who memorized multiplication tables but can’t derive 7×8 from first principles.
لكن المفارقة: العمليات الحسابية — مثل 2+2 — تقع ضمن مسار الحفظ، وليس المنطق. وعند تعطيل الذاكرة، هبطت درجات الرياضيات إلى 66٪. لذا نموذجك لا يحسب — بل يسترجع ما رآه من قبل. كأن طالبًا حفظ جدول الضرب لكنه لا يستطيع استنتاج 7×8 باستخدام المبادئ الأساسية.
هذا اكتشاف ضخم. كنا نشتبه بهذا منذ سنوات، وها نحن نملك دليلًا آليًا. الاختراق الحقيقي ليس في الاكتشاف وحده — بل في قدرتنا الآن على تعديل ذاكرة النموذج دون كسر قدرته على التفكير المنطقي. هذه خطوة نحو ذكاء اصطناعي أخلاقي: تخيل إمكانية إزالة المحتوى المتحيز أو المحمي بحقوق الطبع، مع الحفاظ على قدرته على التفكير الإبداعي.
قد يعيد هذا تشكيل قوانين حقوق الملكية. إذا كان الذكاء الاصطناعي «يتذكر» نصوصًا محمية ضمن مسار يمكن حذفه، فهل يصبح ذلك مختلفًا جوهريًا عن السرقة الأدبية؟ قد ترى المحاكم في هذا دليلًا على أن النماذج «تُخزّن» لا «تبتكر» محتوى مخالفًا، مما قد يقلّل من المسؤولية القانونية.
مذهل. هذا يشبه كيف تخزن أدمغتنا الحقائق الحفظية (مثل جداول الضرب) في مناطق مختلفة عن تلك المستخدمة للتفكير المجرد. لكن على عكس الذكاء الاصطناعي، تدمج أدمغتنا الاثنين — ولهذا السبب نستطيع استخدام الضرب لبناء الصواريخ. لا يزال الذكاء الاصطناعي قادرًا على قراءة شكسبير ببراعة مع ضعفه في الرياضيات. هذا ليس ذكاءً — بل مسجل أشرطة متقدم جدًا.
بالضبط. نحن أخيراً نبني أدوات لاستجواب البنى العصبية بطريقة آلية، وليس إحصائية فقط. هذا لا يتعلق بالرياضيات فقط — بل بالقدرة على التفسير. إذا استطعنا فهم 'عملية التفكير' في الذكاء الاصطناعي على المستوى المادي، يمكننا بناء الثقة.
إذن ثورة الذكاء الاصطناعي مبنية على أساس بطاقات تذكر؟ هذا مخيف ومضحك في آنٍ واحد. نعامل محركات مطابقة الأنماط كأذكياء عباقرة. في الوقت نفسه، لا يستطيعون حتى إعادة اشتقاق 2+2. اوقظوني عندما يصبحون قادرين على تصحيح أخطاء كودهم بأنفسهم.
كمعلّم درّس الضرب لمدة 20 عامًا، أقول: إذا لم يستطع الذكاء الاصطناعي فهم عملية الضرب من الداخل، فهو لا يفهم الرياضيات. حفظ الإجابات ليس تعلّمًا. لقد أنشأنا جيلًا رقميًا من الطلاب الذين يتفوقون في المفردات ويخفقون في الحساب. هذا ليس تقدمًا.
آمين. لقد و outsourced التفكير، والآن نصدم من أنه لا يفكر. الخطر الحقيقي ليس الذكاء العام، بل تدهور القدرات الفكرية البشرية. نحن نربي أطفالًا يطلبون من الذكاء الاصطناعي أفكارًا للإفطار. حظًا سعيدًا في تعليمهم قيمة الجهد.