Windows 11: Microsoft боится собственного ИИ, но продолжает его продвигать

Microsoft, конечно, любит удивлять! То говорит, что ИИ в Windows 11 будет безопасным и поможет нам творить, то вдруг предупреждает о рисках. Как так? 🤔

Вот прям два противоположных заявления от них. В одном документе они пишут, что AI-агенты в Windows 11 могут "галлюцинировать" и делать всякие "непреднамеренные действия", типа кражи данных или установки вредоносного ПО. А потом, в посте на X, заявляют, что ИИ легко, безопасно и уверенно наделяет нас новыми возможностями.

Microsoft говорит: "Windows превращается в холст для ИИ — встроенный в систему, кремний и аппаратное обеспечение, чтобы организации могли перейти от экспериментов к полномасштабной реализации."

Это всё потому, что "Agentic AI" — штука мощная, может выполнять задачи за нас. Например, "Действия" в Copilot могут работать с нашими файлами, переименовывать их и делать другие "агентские" штуки. Всё это благодаря "Agentic Workspace".

Но вот незадача: Microsoft сама же признала, что ИИ в Windows 11, особенно эти агенты, не самая безопасная функция. 😬 Agentic Workspace — это опция, и не просто так. В документации Microsoft пишет, что ИИ может "выдавать неожиданные результаты", и это особо опасно, когда у него есть доступ к личным данным.

«Агентные ИИ-приложения представляют новые риски безопасности, такие как кросс-промпт-инъекции (XPIA), когда вредоносный контент, встроенный в элементы пользовательского интерфейса или документы, может переопределить инструкции агента, приводя к непреднамеренным действиям, таким как эксфильтрация данных или установка вредоносного ПО», — предупреждает Microsoft.

Угроза настолько реальна, что при включении этих "экспериментальных агентских функций" в превью-сборках Windows 11 появляется всплывающее окно с предупреждением о последствиях для безопасности.

При этом Microsoft активно продвигает идею, что Windows 11 — это "холст" для ИИ. Они даже выпустили документацию для разработчиков, как создавать ИИ-приложения для Copilot+ PC. Всё это нацелено на железо с мощным NPU (Neural Processing Unit), чтобы ИИ-задачи выполнялись локально.

Microsoft говорит, что теперь лучше использовать Windows ML (WinML), что упрощает работу с ИИ, автоматически подбирая лучший ускоритель (NPU, GPU или CPU).

Но вот вопрос: почему Microsoft так упорно называет Windows "холстом для ИИ"? Это просто маркетинг, или они всерьез хотят, чтобы мы приняли Windows как "AI-first" систему, где ИИ — всему голова? 🤔

Если вспомнить, Microsoft уже не раз пыталась менять восприятие Windows. Была Windows 10 Creators Update, ориентированная на "творцов" с 3D и VR. До этого — Windows 8, заточенная под сенсорные экраны и планшеты. Все эти попытки, по сути, провалились. Казалось, Microsoft упускает главное — что именно делает Windows популярной. И вот снова та же история с "Windows как холстом для ИИ".

Microsoft опять пытается навязать новую парадигму, обещая безопасность, но забывая учесть реальные риски. Похоже, старые грабли становятся модными.

Стоит задуматься, действительно ли нам нужен такой "AI-first" подход, если базовые вопросы безопасности остаются не до конца решенными.