Секрет Microsoft раскрыт: знакомьтесь с Mu, компактной AI-моделью, которая преобразит настройки вашего ПК

Microsoft представила новую небольшую языковую модель, работающую непосредственно на устройстве. Именно она лежит в основе AI-агентов в приложении "Параметры" Windows 11. Эта модель называется "Mu" и использует возможности нейронных процессоров (NPU), чтобы в полной мере задействовать аппаратное обеспечение, оптимизированное для задач искусственного интеллекта, которое можно найти в Copilot+ PC.

Эти агенты, анонсированные ранее в этом году, смогут автоматизировать и выполнять задачи на вашем ПК, если вы предоставите им соответствующие разрешения.

Например, вы можете ввести в поиске настроек: "Слишком маленький указатель мыши", и AI-агент в "Параметрах" предложит вам увеличить размер указателя мыши от 1 до 5. Большая кнопка "Применить" позволит вам включить предложенную настройку.

AI-агенты в "Параметрах" сейчас тестируются участниками программы Windows Insider в канале Dev. Теперь у нас есть больше информации о том, как они работают и как разрабатывалась модель, лежащая в их основе.

Разработка Mu и ее особенности

Mu была разработана Microsoft для эффективной работы на NPU. Разработчики модели учитывали ограничения NPU, такие как лимиты памяти, чтобы наилучшим образом использовать аппаратное обеспечение. Модель также использует исключительно NPU-оптимизированные операции, чтобы избежать неэффективности.

В блоге Microsoft подробно рассказывается о том, как разрабатывалась Mu и как технологический гигант оптимизировал модель для работы в рамках ограничений NPU. Вивек Прадип, корпоративный вице-президент Microsoft и выдающийся инженер Windows Applied Sciences, подробно разбирает эту тему и делится множеством деталей.

Возможно, большинство пользователей больше интересует, что Mu может сделать, чем то, как разрабатывалась модель, но пост Прадипа — увлекательное чтение, и я рекомендую потратить время на его изучение.

Цель создания Mu

"Наша цель состояла в том, чтобы создать AI-агента в "Параметрах", который понимает естественный язык и беспрепятственно изменяет соответствующие отменяемые настройки", — говорит Прадип. "Мы стремились интегрировать этого агента в существующее поле поиска для обеспечения удобства работы пользователя, требуя сверхнизкой задержки для множества возможных настроек."

Разработчики Microsoft протестировали несколько моделей, но им потребовалось что-то меньшее, чем было доступно ранее, чтобы соответствовать целевым показателям задержки. Mu была разработана и точно настроена для достижения целей компании.

"Модель Mu [тонко настроенная] достигла времени отклика менее 500 миллисекунд, что соответствует нашим целям по созданию отзывчивого и надежного агента в "Параметрах", который масштабируется до сотен настроек", — пояснил Прадип.

AI-агенты в "Параметрах" и модель Mu, лежащая в их основе, сейчас тестируются участниками программы Windows Insider. Те, кто зарегистрирован в программе Windows Insider, также могут протестировать крупное обновление приложения Recall.

Мнение редакции MSReview: Mu - это значительный шаг вперед в развитии AI-агентов на устройствах. Оптимизация модели для работы на NPU открывает новые возможности для более быстрой и эффективной обработки естественного языка прямо на компьютере пользователя. Это может привести к значительному улучшению пользовательского опыта в Windows 11 и других продуктах Microsoft.