Windows 11: Microsoft идет на риски с AI-агентами, несмотря на уязвимости

Microsoft активно внедряет AI-ассистентов в Windows 11, несмотря на признание рисков. 🤖 Эти агенты могут "галлюцинировать", вести себя непредсказуемо и даже поддаваться атакам. Однако компания все равно продвигает эти функции, даже если они требуют отдельных аккаунтов, изолированных сессий и логов.

Microsoft хочет, чтобы мы общались с компьютером голосом и показывали ему, что происходит на экране, а он уже сам выполнял действия. 🗣️👀✨ Это называется Copilot Voice, Copilot Vision и Copilot Actions.

Теперь панель задач Windows 11 становится центром управления AI. Вместо привычного поиска там будет "Ask Copilot", откуда можно вызывать AI-агентов. Они смогут работать в фоновом режиме, а вы будете видеть их прогресс.

Microsoft признает, что AI-агенты несовершенны. Они могут "галлюцинировать" и выдавать неожиданные результаты. 🤷‍♂️

Одна из главных проблем – Cross Prompt Injection (XPIA). Злоумышленники могут обмануть AI-агента, встроив вредоносный код в документы или приложения. Это может привести к тому, что агент скопирует ваши файлы или сольет данные. 😱

Microsoft обещает, что агенты будут работать под отдельными учетными записями с ограниченными правами, но при этом давать им доступ к вашим папкам "Документы", "Загрузки", "Рабочий стол", "Видео", "Изображения" и "Музыка". 🤦‍♂️

Как AI-агенты работают в Windows 11

Вся магия происходит благодаря Agent Workspace. Это отдельная среда, где AI-агенты могут работать, не затрагивая вашу основную сессию.

Агент выполняет задачи, как обычный пользователь: кликает по кнопкам, вводит текст, перемещает файлы. 🖱️✍️📂 Все действия записываются, чтобы можно было отследить, что пошло не так.

Agent Workspace контролирует, что агент видит. Доступ он имеет только к указанным "известным папкам". Остальное – под запретом, если вы сами не дадите разрешение. 🔒

Для активации этих фич нужно включить "Experimental Agentic Features", что по умолчанию выключено.

MCP protocol – это мост между агентами и приложениями. Он позволяет агентам обнаруживать инструменты, вызывать функции и получать доступ к данным через стандартизированный интерфейс. 🌉

Почему Microsoft считает, что AI-агенты стоят риска?

Microsoft видит AI как будущее Windows, делая ОС "холстом для AI". 🎨

Конкуренция с Apple Intelligence и Google Aluminium OS заставляет Microsoft двигаться вперед. Apple уже работает над своим AI, а Google выходит на рынок ПК. 🍎🤖

Windows 11 и так не пользуется идеальной репутацией. Пользователи жалуются на "раздутость" системы. 👎

Функция Recall стала примером того, как не надо запускать AI-продукты. Постоянные скриншоты активности на диске вызвали шквал критики. 😱 Microsoft пришлось отложить ее и сделать опциональной.

Все это заставляет задуматься: если Recall так плохо себя зарекомендовал, что будет, когда агенты смогут кликать, печатать и перемещать файлы? 🤔

Microsoft строит рискованное будущее, надеясь, что пользователи последуют за ними. Архитектура Agent Workspace выглядит продуманной, но все зависит от исполнения. Один серьезный эксплойт может разрушить доверие. К счастью, Experimental Agentic Features пока опциональны.

AI-агенты – это, вероятно, неизбежное будущее. Но доверие придется заслужить. Microsoft должно сделать эти функции полностью опциональными и продемонстрировать реальную пользу.

Microsoft делает ставку на AI-агентов в Windows 11, признавая риски. Технологически это интересно, но доверие пользователей придется завоевывать, особенно после неудачного запуска Recall. Важно, чтобы новые функции были действительно опциональными и приносили пользу.