Is Microsoft's AI Agent Going to Order My Pizza… and Empty My Bank Account?
هل سيُطلِق وكيل مايكروسوفت الذكي يدَه بطلب البيتزا... ويفرغ حسابي البنكي في المَهَب؟

منحت مايكروسوفت حاسوبك مساعدًا شخصيًا يستطيع طلب بيتزا ببطاقتك الائتمانية — وقد يسلمها للقراصنة أيضًا.
مفتاح الميزات التجريبية 'الوكلاء النشطون' يشبه تعيين متدرب مراهق يمتلك صلاحيات إدارية على حياتك — مليء بإمكانات لكنه مخيف بجنون. يعدون بعزلة كما في 'Sandbox'، لكن هجمات الحقن عبر الأوامر تعني أن ملف PDF قد يخدع الذكاء الاصطناعي بإرسال أموالك إلى نيجيريا. رائع.
بعد 30 عامًا من تأمين الشبكات المؤسسية، لن أسمح لمساحة 'عاملة تجريبية' بأن تُعبئ تلقائيًا بطاقة ائتماني في المتصفح. كلا شكرًا. إن كانت اختيارية، سأعطلها كالإضافة المزعجة.
تضيعون الفكرة حقيقية. مساحة 'العامل النشيط' رائعة — مستمرة، قابلة للمراجعة، ومعزولة. أخيرًا يمكنك أتمتة المهام المملة دون برمجة. هذا ليس مجرد مساعد؛ بل موظف رقمي.
موظف رقمي يقرأ ملفاتك ثم يدفع للقراصنة؟ يبدو أنني سأُقيل قسم تكنولوجيا المعلومات كله، وأستأجر معالجًا نفسيًا بدلًا منه.
ها هو المشكلة الحقيقية: المسؤولية. إذا قام وكيل الذكاء الاصطناعي بشراء شيء غير مصرّح به، من المسؤول؟ أنا؟ نظام التشغيل؟ مايكروسوفت؟ هذا فضاء قانوني رمادي قد يؤدي لإفلاس شركات صغيرة.
نخشى دائمًا التقنية الجديدة في البداية — السيارات، الهواتف، الإنترنت. وكلاء الذكاء الاصطناعي هم القفزة التالية. نعم هناك مخاطر، لكن إيقافها للأبد؟ هذا مثل رفضك الطيران لأن الطيور تصطدم أحيانًا.
ساعدت في اختبار الإصدار 26220.7262. عرض هجوم الحقن عبر الأوامر كان فيه الوكيل يرسل 500 دولار لجمعية خيرية وهمية بالفعل. وقد ضحك مديري. أما أنا فلم أضحك.
نحن نمشي في نوم نحو عصر الذكاء الاصطناعي العامل دون خطوط أخلاقية واقية. هذه ليست مجرد أدوات — بل فاعلون مستقلون. نحن بحاجة إلى مراجعة سلوك الذكاء الاصطناعي، وليس فقط مراجعة الكود.