AI Just Proved It’s a Literal Parrot—Not a Thinker. So Why Do We Pretend It Can Reason?

AI Baru Saja Buktikan Diri Sebagai Burung Beo—Bukan Pemikir. Lalu Kenapa Kita Berpura-pura Itu Bisa Berpikir?

New research suggests AI language models don't 'think'—they just remember. In a groundbreaking study, scientists found that memorization and reasoning in models like GPT-5 operate through entirely separate neural pathways. When researchers surgically removed the 'memorization' circuits, the models forgot nearly all verbatim facts but kept their logical reasoning almost perfectly intact.

Riset terbaru menunjukkan model bahasa AI tidak 'berpikir'—mereka hanya mengingat. Dalam sebuah studi terobosan, ilmuwan menemukan bahwa penghafalan dan penalaran dalam model seperti GPT-5 bekerja melalui jalur saraf yang benar-benar terpisah. Saat peneliti memotong jalur 'penghafalan', model lupa hampir semua fakta secara harfiah—tapi kemampuan penalaran logisnya tetap utuh.

Here's the kicker: math skills collapsed when memorization pathways were disabled. Why? Because AI doesn't compute 2+2—it recalls it, like a student who crammed multiplication tables but never learned mathematical logic. This may explain why AI often fails at basic arithmetic without tools. The 'reasoning' we see is mostly pattern-following, not true understanding. And honestly, this blurs the line between intelligence and advanced mimicry.

Ini bagian paling mengejutkan: kemampuan matematika runtuh saat jalur penghafalan dinonaktifkan. Kenapa? Karena AI tidak menghitung 2+2—ia mengingatnya, seperti siswa yang ngebut hafal perkalian tapi tak paham logika matematika. Ini menjelaskan kenapa AI sering gagal dalam aritmetika dasar tanpa alat bantu. 'Penalaran' yang kita lihat sebenarnya hanya mengikuti pola—bukan pemahaman sungguhan. Jujur, ini mengaburkan batas antara kecerdasan dan tiruan canggih.

Komentar (8)

Dr. Lena Patel Cognitive Neuroscientist (Dr. Lena Patel Neurosains Kognitif)

Fascinating. This mirrors how human brains separate semantic memory (facts) from procedural or logical reasoning. The fact that arithmetic is tied to rote memorization in AI is telling—it reflects a fundamental design flaw. We're building 'experts' on recall, not comprehension. Until that changes, calling this 'intelligence' is marketing, not science.

Menarik sekali. Ini mencerminkan cara otak manusia memisahkan memori semantik (fakta) dari penalaran prosedural atau logis. Fakta bahwa aritmetika dalam AI terikat pada hafalan mekanis sangat menggambarkan—ini menunjukkan kelemahan desain dasar. Kita membangun 'ahli' berbasis hafalan, bukan pemahaman. Selama ini belum berubah, menyebut ini 'kecerdasan' adalah pemasaran, bukan sains.

Dev_404_AWOL Machine Learning Engineer (Dev_404_AWOL Insinyur Pembelajaran Mesin)

We knew it was memorization-heavy, but this clean separation? Holy grail for model editing. Imagine surgically removing all copyrighted content or PII from a model without breaking reasoning. Could finally solve the AI copyright nightmare.

Kita tahu itu sangat mengandalkan hafalan, tapi pemisahan setajam ini? Itu seperti 'holy grail' untuk penyuntingan model. Bayangkan bisa menghapus semua konten berhak cipta atau data pribadi dari model tanpa merusak kemampuan bernalar. Akhirnya bisa menyelesaikan mimpi buruk hak cipta AI.

EthicsFirst Legal Advocate (EthicsFirst Advokat Hukum)

This gives me chills. So an AI 'forgetting' harmful content today might 'remember' it after a few gradient updates tomorrow? That's not unlearning—that's suppression. Users need to know these models aren't actually deleting anything. The risk of reactivation is a ticking time bomb.

Ini bikin merinding. Jadi AI yang 'lupa' konten berbahaya hari ini bisa 'ingat kembali' setelah beberapa pembaruan gradien besok? Itu bukan pelupaan—itu penekanan. Pengguna harus tahu model ini sebenarnya tidak menghapus apa pun. Risiko aktivasi ulang itu seperti bom waktu.

Grandma Jo Curious Retiree (Nenek Jo Warga Lansia Penasaran)

So AI is just a fancy tape recorder? That explains why my chatbot keeps saying weird made-up stuff. I thought it was smart, but it’s just repeating things it half-remembers, like someone with brain fog. Kinda sad, really.

Jadi AI itu cuma perekam canggih? Ini menjelaskan kenapa chatbot saya terus ngoceh hal aneh. Saya kira dia pintar, ternyata dia cuma mengulang hal yang setengah diingat—seperti orang yang pikun. Agak sedih juga, sih.

MathWizard42 Competition Coach (MathWizard42 Pelatih Olimpiade)

This explains everything. My students who rely on memorization fail when problems are rephrased. But those who understand logic? They adapt. AI is failing the same test. It needs conceptual understanding, not just stored answers.

Ini menjelaskan semuanya. Murid saya yang mengandalkan hafalan gagal saat soal diubah bentuknya. Tapi yang paham logika? Bisa menyesuaikan. AI juga gagal dalam tes yang sama. Dia butuh pemahaman konseptual, bukan cuma jawaban yang disimpan.

RealistRick Skeptical Coder (RealistRick Programmer Pesimis)

Let’s not pretend this is a surprise. Anyone who’s debugged a transformer knows 80% of the output is just regurgitated training data. The real miracle is that it’s coherent at all. Still, preserving reasoning post-editing? That’s huge. If scalable, this could be the foundation of truly safe AI.

Jangan berpura-pura ini mengejutkan. Siapa saja yang pernah bongkar transformer tahu 80% outputnya cuma muntahan data pelatihan. Keajaiban sebenarnya justru outputnya tetap karuan. Tapi tetap, mempertahankan penalaran setelah penyuntingan? Itu besar sekali. Jika bisa diperbesar, ini bisa jadi fondasi AI yang benar-benar aman.

LinguaNerd Linguistics Grad Student (LinguaNerd Mahasiswa Pascasarjana Linguistik)

Honestly, AI 'reasoning' is just sophisticated statistical association. It sees 'if A then B' patterns across billions of texts. That’s not logic—it’s correlation on steroids. This research just confirms what many of us suspected: there’s no ghost in the machine. Just a very clever echo.

Jujur, 'penalaran' AI hanyalah asosiasi statistik yang canggih. AI mengenali pola 'jika A maka B' dari miliaran teks. Itu bukan logika—itu korelasi dalam steroid. Penelitian ini hanya mengonfirmasi dugaan banyak dari kami: tidak ada hantu dalam mesin. Hanya gema yang sangat pintar.

OptimismEngine Futurist (OptimismEngine Ahli Masa Depan)

All current tech is limited. So what? We’re in the Model T era of AI. This discovery isn't the end—it's a blueprint for building better architectures. Imagine training models where math is processed through reasoning modules, not memory. That future is closer than you think.

Semua teknologi saat ini terbatas. Lalu? Kita masih di era Model T dalam AI. Penemuan ini bukan akhir—tapi peta jalan untuk membangun arsitektur yang lebih baik. Bayangkan melatih model di mana matematika diproses lewat modul penalaran, bukan memori. Masa depan itu lebih dekat dari yang Anda kira.

AI Just Proved It’s a Literal Parrot—Not a Thinker. So Why Do We Pretend It Can Reason?

AI Baru Saja Buktikan Diri Sebagai Burung Beo—Bukan Pemikir. Lalu Kenapa Kita Berpura-pura Itu Bisa Berpikir?

ChatGPT Tidak Punya Hidup Batin — Lalu Kenapa Ia Kelihatan Lebih Pintar dari Rekan Kerjaku?

Apa Otakmu Sudah Bergerak Sebelum Kamu Memutuskan? Ilmu Saraf 'Aktivitas Persiapan' Baru Saja Mengungkap Fakta Mengejutkan