Искусственный интеллект против кибербезопасности: новая вредоносная программа обходит защиту Microsoft Defender

С развитием технологий искусственного интеллекта (ИИ) вопросы безопасности становятся все более актуальными. Недавние исследования показали, что злоумышленники все чаще используют ИИ для создания фишинговых схем и обхода сложных систем защиты.

В 2023 году Microsoft уже сообщала об использовании хакерами таких инструментов, как Microsoft Copilot и ChatGPT от OpenAI, для атак на пользователей. Теперь же ситуация становится еще более серьезной: злоумышленники разрабатывают новые способы обхода систем безопасности и получения доступа к конфиденциальным данным.

Многие пользователи Windows знакомы с Microsoft Defender – комплексной платформой безопасности, призванной защищать от хакерских атак. Однако, как сообщает Dark Reading, исследователи из Outflank представят на мероприятии "Black Hat 2025" вредоносную программу на основе ИИ, способную обходить защиту Microsoft Defender для Endpoint.

По словам ведущего специалиста по наступательным операциям Outflank Кайла Эйвери, разработка вредоносного ПО заняла около трех месяцев и обошлась в 1500-1600 долларов (135 000 - 144 000 рублей) на обучение языковой модели Qwen 2.5.

Эйвери также сравнил модели GPT от OpenAI с новейшими моделями рассуждений, такими как o1. Он отметил, что, хотя GPT-4 является значительным улучшением по сравнению с GPT-3.5, модель рассуждений o1 от OpenAI обладает сложными возможностями, которые делают ее особенно подходящей для кодирования и математики.

Обучение с подкреплением: как ИИ помогает хакерам

Однако эти возможности могут ограничивать модель в области письма. Эйвери пришел к такому выводу после того, как DeepSeek выпустила свою модель R1 с открытым исходным кодом.

Эйвери утверждает, что DeepSeek использовала метод обучения с подкреплением для улучшения возможностей своей модели в различных областях, включая кодирование. Он применил эту теорию при разработке вредоносного ПО на основе ИИ для обхода защиты Microsoft Defender.

Разработчик признает, что процесс был непростым, так как языковые модели (LLM) в основном обучаются на данных из интернета, что затрудняет доступ к традиционным вредоносным программам для обучения ИИ.

Здесь на помощь пришло обучение с подкреплением. Эйвери поместил Qwen 2.5 LLM в изолированную среду с Microsoft Defender для Endpoint. Затем он написал программу для оценки того, насколько близко модель ИИ подошла к созданию инструмента обхода защиты.

Эйвери объясняет:

"Сразу ничего не получится. В одном случае из тысячи, возможно, ИИ повезет, и он напишет вредоносную программу, которая функционирует, но ничего не обходит. И в этом случае вы можете вознаградить его за функционирующую вредоносную программу."

"По мере того, как вы делаете это итеративно, ИИ становится все более последовательным в создании чего-то, что функционирует, не потому, что вы показывали ему примеры, а потому, что он был обновлен, чтобы с большей вероятностью выполнять тот мыслительный процесс, который привел к работе вредоносной программы."

В конечном итоге Эйвери подключил API, что упростило запрос и получение аналогичных предупреждений, сгенерированных Microsoft Defender. Это значительно упростило разработку вредоносного ПО, которое с меньшей вероятностью вызывает предупреждения при обходе защиты.

В результате Эйвери успешно использовал ИИ для создания вредоносного ПО, способного обходить сложные системы безопасности Microsoft Defender примерно в 8% случаев.

Для сравнения, Claude AI от Anthropic показал аналогичные результаты менее чем в 1% случаев, а R1 от DeepSeek – всего 1,1%. Вполне вероятно, что компании, такие как Microsoft, будут вынуждены усилить свои системы безопасности, поскольку вредоносные программы на основе ИИ становятся все более сложными.

Мнение редакции MSReview: Использование искусственного интеллекта для создания вредоносного ПО, способного обходить системы безопасности, представляет собой серьезную угрозу. Несмотря на то, что процент успешных обходов пока относительно низок, сам факт возможности такого обхода и потенциал для роста этого процента вызывает серьезную обеспокоенность. Необходимо уделять больше внимания разработке контрмер и улучшению систем безопасности, чтобы оставаться на шаг впереди злоумышленников, использующих ИИ.