Искусственный интеллект на страже вашей конфиденциальности: как Microsoft защищает ваши данные в Windows 11

С развитием технологий искусственного интеллекта (ИИ) и их интеграцией в Windows 11, возникает закономерный вопрос: как Microsoft планирует обеспечивать безопасность и конфиденциальность наших данных, когда множество ИИ-агентов потенциально будут работать от нашего имени, взаимодействуя с личной информацией?

Microsoft уверяет, что у них есть четкий план. По мере того, как Windows 11 будет получать новые возможности ИИ-агентов через платформу Copilot Actions, компания обещает принять все необходимые меры для обеспечения безопасности и конфиденциальности пользователей.

"Copilot Actions – это ИИ-агент, который выполняет задачи за вас, взаимодействуя с вашими приложениями и файлами, используя зрение и передовые алгоритмы, чтобы нажимать, печатать и прокручивать, как это сделал бы человек", – объясняет Дана Хуан, вице-президент Microsoft по Windows Security. "Это превращает агентов из пассивных помощников в активных цифровых партнеров, которые могут выполнять для вас сложные задачи, такие как обновление документов, организация файлов, бронирование билетов или отправка электронных писем".

Ключевые принципы безопасности ИИ-агентов

Важно отметить, что Copilot Actions будет подключаться только с вашего разрешения. Первоначально он появится в качестве экспериментального режима в Copilot Studio через программу Windows Insider Program. И только после того, как вы дадите согласие, Copilot Actions сможет взаимодействовать с приложениями и данными на вашем компьютере. В дальнейшем Microsoft планирует расширить и более широко развернуть эту технологию, но к этому моменту, как надеется компания, все механизмы будут отлажены.

Это непростая задача, учитывая, что все современные ИИ-модели и чат-боты подвержены так называемым "галлюцинациям" (ошибочным или нелогичным ответам). Однако ИИ-агенты создают уникальные проблемы с безопасностью и конфиденциальностью из-за особенностей своей работы. Поэтому Microsoft разработала набор принципов безопасности, чтобы гарантировать, что агенты действуют в соответствии с намерениями пользователя и защищают его конфиденциальную информацию.

Вот основные принципы:

• Отключены по умолчанию: Агенты в Windows 11 будут отключены по умолчанию и будут активированы только по вашему желанию.
• Раздельные учетные записи агентов: Агенты в Windows 11 будут работать в выделенных учетных записях, отличных от вашей основной учетной записи пользователя. Это позволит управлять ими с помощью специальных политик, предназначенных именно для агентов. Вы сможете предоставлять доступ к файлам и другим ресурсам этим учетным записям, как если бы это были другие пользователи вашего компьютера, например, члены семьи или коллеги.
• Рабочее пространство агента: Агенты будут работать в изолированной среде, которая отделяет их от остальной системы, используя признанные границы безопасности. Подробнее о рабочих пространствах агентов можно узнать здесь.
• Ограниченные права: Агенты изначально будут иметь ограниченные права и получать доступ только к определенным ресурсам, таким как локальная файловая система, и только с вашего явного разрешения. Агенты не смогут изменять какие-либо настройки на вашем компьютере без вашего участия, и вы сможете отозвать любой предоставленный доступ в любое время.
• Непрерывное подтверждение доверия: Агенты в Windows должны быть подписаны доверенным источником. Это необходимо для того, чтобы вредоносные или некачественно разработанные агенты можно было отозвать и заблокировать с помощью проверки сертификатов и антивирусной защиты.
• Конфиденциальность с самого начала: Агенты в Windows будут соответствовать Заявлению о конфиденциальности и Стандарту ответственного AI Microsoft. Windows будет собирать и обрабатывать данные только для четко определенных целей. Дополнительную информацию об обязательствах компании в отношении ответственного ИИ, конфиденциальности и других "основных прав" можно найти в Отчете о конфиденциальности.

Microsoft также сообщила, что в будущем появятся дополнительные инструменты для обеспечения безопасности, такие как поддержка идентификации Entra и MSA.

"Во время предварительного тестирования Copilot Actions агент будет иметь доступ к ограниченному набору локальных пользовательских папок, таким как "Документы", "Загрузки", "Рабочий стол" или "Изображения", а также к другим ресурсам, доступным для всех учетных записей в системе", – сообщает Microsoft. "Только когда пользователь предоставит авторизацию, Copilot Actions сможет получить доступ к данным за пределами этих папок. Стандартные механизмы безопасности Windows, такие как списки контроля доступа (ACL), помогут предотвратить несанкционированное использование".

Microsoft планирует поделиться дополнительной информацией об агентах в Windows на конференции Ignite в ноябре.

Мнение редакции Microsoft делает важный шаг к обеспечению безопасности ИИ-агентов в Windows 11. Предложенные меры, такие как отключение по умолчанию, разделение учетных записей и ограничение привилегий, выглядят многообещающе. Однако реальная эффективность этих мер будет проверена на практике, после более широкого развертывания и использования платформы Copilot Actions. Необходимо внимательно следить за развитием событий и оперативно реагировать на возникающие угрозы.