Is Microsoft’s New AI Agent Feature a Game-Changer or a Backdoor for Hackers?

Новое AI-агентное расширение Microsoft — прорыв или брешь в безопасности?

www.techpowerup.com

Microsoft is rolling out AI agents in Windows 11 that can autonomously perform tasks like ordering pizza, filling in payment info, and browsing the web—just from a voice command. These agents operate in an isolated 'Agentic Workspace' with limited system access, but can still read and write to your Desktop, Downloads, and media folders by default.

Microsoft внедряет AI-агентов в Windows 11, которые по голосовой команде могут самостоятельно заказывать пиццу, вносить данные о платежах и листать веб. Эти агенты работают в изолированной «Агентной среде», но по умолчанию имеют доступ на чтение и запись в Папку загрузок, Рабочий стол и медиа-папки.

The real bombshell? Cross-prompt injection attacks—where malware hides instructions inside documents to hijack your AI agent. Microsoft claims actions are auditable and isolated, but experts worry this could be a security nightmare. And yes, it’s optional... but how long until it’s quietly enabled?

Самое тревожное — атаки типа cross-prompt injection: вирусы прячут команды в документах, чтобы взять под контроль ИИ-агента. Microsoft утверждает, что действия можно отследить и они изолированы, но эксперты бьют тревогу: это может стать кошмаром. И да, функция опциональна… но сколько пройдёт времени, пока её включат незаметно?

Комментарии (8)

Security Wonk (Эксперт по кибербезопасности)

Let’s be real: giving an AI agent write access to your Desktop and Downloads by default is a disaster waiting to happen. Even sandboxing won’t save you if the agent is trained to trust prompts. Cross-prompt injection isn’t theoretical—it’s been demonstrated. This is like giving a hacker a golden key labeled 'Open Sesame'.

Будем честны: давать ИИ-агенту доступ на запись в Рабочий стол и Папку загрузок по умолчанию — это катастрофа в ожидании. Даже песочница не спасёт, если агент обучен доверять командам. Атаки cross-prompt injection — не теория: их уже демонстрировали. Это как дать хакеру золотой ключ с надписью «Аллах акбар».

Windows Enthusiast Bro (Поклонник Windows)

Calm down. It’s off by default, and I can review every action in the audit log. I’ll use it for simple automations—like organizing downloads. The security risk is overblown. If you’re paranoid, just don’t turn it on.

Успокойтесь. По умолчанию функция выключена, и я могу просмотреть каждое действие в журнале аудита. Я использую её для простых задач — например, сортировки загрузок. Опасность преувеличена. Если боитесь — просто не включайте.

Corporate IT Admin (Сисадмин из корпорации)

This is a nightmare for enterprise. Imagine an employee opening a 'Monthly Budget.xlsx' that secretly prompts the AI to email HR with fake resignation forms. We’ll have to disable this by policy across the entire domain.

Для корпораций это кошмар. Представьте, что сотрудник открывает файл 'Бюджет_месяц.xlsx', который тайно заставляет ИИ отправить в HR форму поддельного увольнения. Мы будем вынуждены отключить это политики домена.

AI Early Adopter (Ранний пользователь ИИ)

Security concerns are valid, but this is the future of UI: invisible automation. Think of it like assistant permissions in iOS—scary at first, but now we trust Siri with payments. Evolution takes risk.

Опасения по поводу безопасности обоснованы, но это будущее интерфейсов: незаметная автоматизация. Представьте это как разрешения для ассистента в iOS — сначала страшно, но теперь мы доверяем Siri оплату. Эволюция требует риска.

Digital Minimalist (Цифровой минималист)

I don’t want an AI ordering pizza for me. I barely want it managing my calendar. This feels like convenience as a Trojan horse. We’re not ready for agentic systems—we haven’t even fixed prompt injection yet.

Я не хочу, чтобы ИИ заказывал мне пиццу. Я еле терплю, когда оно управляет календарём. Это похоже на удобство, замаскированное под троянского коня. Мы ещё не готовы к агентным системам — мы даже инъекции промптов не починили.

Cloud Security Engineer (Инженер по облачной безопасности)

Even if the agent runs in isolation, lateral movement through user-triggered prompts is the new attack vector. Microsoft’s audit logs are a start, but they won't stop a determined attacker.

Даже при изолированном запуске агента, боковое перемещение через команды пользователя — новый вектор атаки. Журналы аудита Microsoft — это начало, но они не остановят настойчивого злоумышленника.

Ethics in Tech Scholar (Исследователь этики в технологиях)

Beyond security, what about agency? If an AI signs a contract or shares sensitive data believing it's following my command, who's liable? This blurs human accountability. Code isn’t law.

Помимо безопасности — а что с автономией? Если ИИ подписывает контракт или передаёт конфиденциальные данные, полагая, что следует моей команде, кто понесёт ответственность? Это стирает человеческую ответственность. Код — не закон.

Curious Grandma (Любопытная бабушка)

So… can it finally help me send photos to my grandkids without me pressing five buttons?

Ну… сможет ли оно наконец помочь мне отправлять фото внукам, не нажимая пять кнопок?

Is Microsoft’s New AI Agent Feature a Game-Changer or a Backdoor for Hackers?

Новое AI-агентное расширение Microsoft — прорыв или брешь в безопасности?

Гендиректор Amazon только что выдал самую жёсткую правду об ИИ-агентах: «Пока что они полный провал»

Технобиллионеры только что купили город — станут ли браузеры с ИИ следующей взяткой?