ChatGPT Made Up a 237-Page Report — Are We Trusting AI Too Much?
চ্যাটজিপিটি ২৩৭ পৃষ্ঠার একটি প্রতিবেদন বানিয়ে ফেলেছে—আমরা কি এখন এতটা বেশি আইনি-বিশ্বাস রাখছি?
www.forbes.com
If you’re one of the 550 million people using ChatGPT, you’ve probably fallen victim to its polished lies. Last week, I asked it to summarize a trending AI productivity report. What I got was a flawlessly written summary—with numbers, quotes, and sources that didn’t exist. The hallucinations were so coherent, I almost filed them in a real presentation.
যদি আপনি চ্যাটজিপিটি ব্যবহারকারীদের ৫৫০ মিলিয়নের একজন হন, তাহলে সম্ভবত আপনি ইতিমধ্যেই এর মসৃণ মিথ্যার শিকার হয়েছেন। গত সপ্তাহে আমি একটি জনপ্রিয় আই উৎপাদনশীলতা প্রতিবেদন সংক্ষেপ করতে বলেছিলাম। কিন্তু যা পেলাম, তা ছিল নিখুঁত লেখা, কিন্তু কোনো নম্বর, কোট বা সোর্সই ছিল না বাস্তবে। আমি প্রায় সত্য হিসাবে এটি ব্যবহার করে ফেলতাম।
From Deloitte’s facepalm moment with a fake 237-page government report to startups blindly copying AI code, the cost of AI trust is real. These aren’t just typos—they’re hallucinations baked into AI’s DNA. And no, better math won’t fix it. The truth is, even top executives don’t know when their AI is lying. As we outsource more thinking, we risk outsourcing accountability.
ডেলয়েটের ২৩৭ পৃষ্ঠার জাল সরকারি প্রতিবেদন থেকে শুরু করে ছোট স্টার্টআপগুলোর আই-এর কোড কপি করা পর্যন্ত—আই-এ বিশ্বাসের মূল্য প্রকৃত। এগুলো শুধু টাইপো নয়—এগুলো আই-এর ডিএনএতে মিশে থাকা হ্যালুসিনেশন। আর হ্যাঁ, ভালো গণিত এটি ঠিক করবে না। সত্যি কথা হলো, আজকের সিইওদেরও বোঝা হয় না কখন তাদের আই মিথ্যা বলছে। আমরা যতটা ভাবনা বাইরে ছেড়ে দিচ্ছি, যতটা দায়িত্বও হারিয়ে যাচ্ছি।
আমি সেই প্রজেক্টের একজন ছিলাম। আমরা প্রতিবেদন ড্রাফট করতে আই ব্যবহার করেছিলাম, কিন্তু আসল ব্যর্থতা ছিল মানবিক। কেউ যাচাই করেনি। নেতারা আউটপুটকে গসপেলের মতো বিশ্বাস করেছিলেন। আমাদের যদি যাচাই পদ্ধতি থাকত, তাহলে কিছু ঘটত না।
এটা একটি সতর্ক ঘণ্টা। আমরা আইনী নথি, চিকিৎসা রোগনির্ণয় এবং নীতি সিদ্ধান্ত সম্ভাব্যতামূলক মডেলে হস্তান্তর করছি। এটা হলো ঠিক তেমন যে কোনো ওষুধ পরীক্ষা মঞ্জুর করা কারণ কয়েন তিনবার হেড ছিল। পাগলামি।
মানুষ মডেলের দোষ দেয়, কিন্তু ইনপুট ছিল আবর্জনা। 'একটি নিবন্ধ সংক্ষেপ করুন' এটা অলসতা। আপনার অবশ্যই সূচনায় সূত্র, তারিখ, সেকশন নির্দিষ্ট করতে হবে। আবর্জনা ঢুকলে, হ্যালুসিনেশন বের হয়।
ঠিক তাই। আমরা মানুষকে এক্সেল ব্যবহার করতে শেখাই, আই ব্যবহার কেন নয়? প্রতিটি আগমনের সময় অন্তর্ভুক্ত হওয়া উচিত: 'আই-এর মিথ্যা চেনার উপায়'। সরঞ্জামকে দোষারোপ করা নয়—মানুষের দক্ষতা বাড়ানোই লক্ষ্য।
আমি চ্যাটজিপিটিকে ক্লায়েন্টের জন্য একটি প্রস্তাব লিখতে বলেছিলাম। ভালো দেখাচ্ছিল, তাই পাঠিয়ে দিলাম। ক্লায়েন্ট ক্ষেপে ফিরে এলেন—আই জাল কেস স্টাডি উল্লেখ করেছিল। ডিল হারালাম। পাঠ শেখা গেল: আই একটি সরঞ্জাম, সেক্রেটারি নয়।
সবাই বলছে ‘শুধু যাচাই যুক্ত করুন।’ কিন্তু যদি আপনার পোরা আইনি বিভাগই আই-এর দ্বারা তৈরি হয়? যাচাইকারীদের কে যাচাই করবে? আমরা একটি পোস্ট-ট্রুথ ব্যুরোক্রেসি-এর দিকে ঘুমন্ত অবস্থায় হাঁটছি।
আমি 5টি এলএলএম পরীক্ষা করেছি। উৎসের কথা জিজ্ঞাসা করলে, গুগলের নতুন মডেলের উত্তর ছিল: 'আমি তা যাচাই করতে পারছি না।' অন্যগুলো শুধু জাল পিডিএফ আর জাল লোগো বানাতে লাগল। ভীতিকর।
আপনারা সবাই খুব বাড়াবাড়ি করছেন। আই ভুল করে? মানুষও কি করে না? কত মানুষ অ্যাকাউন্ট্যান্ট $২০ মিলিয়ন নিয়েছে? সরঞ্জাম ব্যর্থ হয় না—মানুষ ব্যর্থ হয়। ভালো প্রক্রিয়া তৈরি করুন।