Is Microsoft Opening Pandora's Box with AI Agents That Can Spend Your Money?
क्या माइक्रोसॉफ्ट उन एआई एजेंट्स के साथ पैंडोरा के बक्से को खोल रहा है जो आपका पैसा खर्च कर सकते हैं?
www.techpowerup.com
Microsoft is unleashing AI agents that can autonomously book flights, order pizzas, and even enter your credit card info—sounds convenient until you realize one fake PDF could make it wire $5,000 to a Nigerian prince.
माइक्रोसॉफ्ट वो एआई एजेंट्स जारी कर रहा है जो स्वतंत्र रूप से फ्लाइट्स बुक कर सकते हैं, पिज्ज़ा ऑर्डर कर सकते हैं, और आपकी क्रेडिट कार्ड जानकारी डाल सकते हैं—आसान लगता है, जब तक आपको एहसास नहीं होता कि एक फर्जी पीडीएफ उसे 5000 डॉलर नाइजीरियाई राजकुमार को भेजने को कह दे।
The company claims these agents run in a sandbox-like 'Agentic Workspace' with audit trails, but they also have write access to your Downloads and Desktop. So much for security being 'isolated.'
कंपनी का दावा है कि ये एजेंट 'एजेंटिक वर्कस्पेस' में एक सैंडबॉक्स जैसे वातावरण में चलते हैं और एक्शन ट्रेस रखते हैं, लेकिन इनके पास आपके डाउनलोड्स और डेस्कटॉप तक लिखने की पहुँच भी है। सुरक्षा के 'अलग' होने की बात तो फिर सिर्फ बात ही रह जाती है।
प्रॉम्प्ट इंजेक्शन हमले एआई के लिए 'एसक्यूएल इंजेक्शन' जैसे हैं—एक बिल्कुल नया खतरा। जब एजेंट्स के पास फाइलें बदलने की अनुमति हो, तो एक दुर्भावनापूर्ण दस्तावेज़ से धोखा खाने की बात सचमुच डरावनी है।
ठीक है, एक पिता के रूप में जो अपने पासवर्ड्स को भी ठीक से नहीं रख पाता, उसके लिए ऐसे एआई का विचार जो पिज्ज़ा ऑर्डर कर सकता है और मेरी क्रेडिट कार्ड भी चला सकता है, उतना ही आश्चर्यजनक है जितना डरावना।
माइक्रोसॉफ्ट कहता है एजेंट 'अलग' हैं, लेकिन वे डेस्कटॉप पर लिख सकते हैं? यह ऐसा ही है जैसे कहें कि आपका जंगली बिल्ली तिहर बंद है, लेकिन स्नैक्स लेने के लिए रसोई में घूमती है। 'वैकल्पिक' होने का मतलब 'सुरक्षित' होना नहीं है।
अगर कोई एआई एजेंट जहरीले इनपुट के आधार पर लेनदेन को अधिकृत करता है, तो जिम्मेदार कौन होगा? माइक्रोसॉफ्ट? उपयोगकर्ता? ऐप स्टोर? यह एक कानूनी स्लेटी ज़ोन है जो पहली शिकायत का इंतज़ार कर रहा है।
बिल्कुल सही। जिम्मेदारी का सवाल एआई नियमन तय करेगा। अगर एजेंट के उपद्रव के लिए उपयोगकर्ताओं को दोषी ठहराया गया, तो अपनाने का आंकड़ा गिर जाएगा। लेकिन अगर माइक्रोसॉफ्ट पर मुकदमा हुआ, तो वे फीचर्स पर ज्यादा प्रतिबंध लगा देंगे।
एजेंटिक वर्कस्पेस का विचार बुरा नहीं है—दरअसल, अगर वो वास्तव में स्कोप को सीमित रखें और सबकी जांच करें तो यह क्रांतिकारी हो सकता है। समस्या 'डाउनलोड्स और डेस्कटॉप' तक पहुँच है। यही बैकडोर है।
एक भविष्य की कल्पना करें जहाँ आप अपने एजेंट से कहते हैं डेस्कटॉप साफ़ करने को, और वो ऐसा करता है—सुरक्षित और पारदर्शी तरीके से। यही सपना है। लेकिन अभी तो यह आपके क्रेडिट कार्ड के साथ एक बच्चा है।