Windows 11 на страже: Microsoft предупреждает об опасной фиче с ИИ!

Microsoft выпустила предупреждения о новой фиче в Windows 11, которая может быть опасной 😱. Речь идет об "агентском ИИ", который скоро появится в системе.

Суть в том, что эта фича будет отключена по умолчанию, и включать ее следует только тем, кто полностью понимает связанные с этим риски. Звучит как начало новой эры Windows, где ИИ будет выполнять задачи за вас, но это несет в себе определенные угрозы.

Microsoft говорит, что этот "агентский ИИ" сможет создавать локальные учетные записи для разных ИИ-агентов. У этих агентов будет доступ к вашим личным папкам, таким как "Документы", "Загрузки", "Рабочий стол", "Видео", "Изображения" и "Музыка".

Основная опасность, о которой предупреждает Microsoft, — это "кросс-промпт инъекции" (XPIA). Это как вирус, который прячется в UI-элементах или документах и может заставить ИИ выполнять команды злоумышленника. Представляете, ваш AI-агент может случайно скачать вирус или украсть ваши данные! 😬

Microsoft заверяет, что они работают над безопасностью. ИИ-агенты будут работать в своей безопасной среде, и для выполнения действий им потребуется ваше одобрение. К тому же, все их действия будут логироваться, чтобы можно было проверить, что произошло.

Уже вчера начали выходить первые сборки Windows 11 для инсайдеров с этой функциональностью. Пока что нет приложений, которые бы ее поддерживали, но Microsoft уже подтвердила, что Copilot сможет ее использовать, и скоро появятся другие ИИ-приложения.

Так что, эра "агентской" Windows, похоже, наступила. Будем готовы к новым возможностям и новым рискам!

Будущее Windows с ИИ-агентами выглядит многообещающим, но требует осторожного подхода к безопасности. Крайне важно понимать риски перед включением такой функциональности.