Microsoft готова остановиться в развитии ИИ, если он станет опасен

Microsoft’s AI chief Mustafa Suleyman has warned that the odds of existential doom are “nearly absolute” — the company could walk away from AI if risks escalate

В марте 2024 года Мустафа Сулейман, один из основателей DeepMind и Inflection, присоединился к Microsoft, чтобы возглавить их подразделение ИИ. Его главная задача — развитие Copilot и других потребительских ИИ-продуктов и исследований.

Microsoft очень активно инвестирует в сферу генеративного ИИ, особенно после того, как в 2019 году вложила 1 миллиард долларов в OpenAI. С тех пор OpenAI и Microsoft тесно сотрудничают, хотя изначально Билл Гейтс отговаривал Сатью Наделлу от этой инвестиции, считая, что миллиард долларов будет "сожжен".

Инвесторы беспокоятся о прибыльности в этой быстро меняющейся сфере. Недавно появилась информация, что внутренние ИИ-проекты Microsoft не приносят ожидаемого дохода, и компании пришлось снизить прогнозы продаж своих Azure AI. Более того, сообщалось, что продуктами Microsoft на базе ИИ практически никто не пользуется.

После vários meses напряженности и давления со стороны инвесторов, Microsoft и OpenAI возобновили свое сотрудничество на новых условиях. Теперь Microsoft может самостоятельно заниматься разработкой искусственного общего интеллекта (AGI) или в партнерстве с другими компаниями. OpenAI, в свою очередь, не сможет объявить о создании AGI и разорвать отношения с Microsoft, если это не будет подтверждено независимой группой экспертов.

Сейчас Microsoft готова замедлить развитие ИИ, если оно будет нести угрозу человечеству. В недавнем интервью Сулейман заявил, что они "не будут продолжать развивать систему, которая может выйти из-под контроля". Он отметил, что такая позиция в индустрии пока что является новой.

Под руководством Сулеймана Microsoft активно продвигает идею "гуманистического супер-ИИ", который призван служить людям. Сулейман подчеркнул, что "Microsoft должна быть самодостаточной в ИИ", и для этого им необходимо самостоятельно обучать передовые модели всех масштабов, используя собственные данные и вычислительные мощности.

Раньше Microsoft, по сути, отказывалась от погони за AGI и супер-ИИ, чтобы получить доступ к технологиям OpenAI. Они строили и оборудовали дата-центры для OpenAI, и взамен получали право на разработку собственного ИИ. Теперь они могут работать над методологиями, которые потенциально превосходят человеческие возможности во всех задачах.

Сулейман занял нейтральную позицию по отношению к конкурентам, заявив, что "каждый должен сам решить, за что он выступает и как он работает".

Несмотря на то, что Microsoft планирует превратить Copilot в "настоящего друга", который со временем развивается, Сулейман признает, что чат-бот иногда совершает ошибки и находится в стадии разработки.

Эти заявления звучат на фоне многочисленных предупреждений о том, что ИИ может привести к экзистенциальной катастрофе. Исследователи в области безопасности ИИ, например, указывают на очень высокую вероятность того, что ИИ может уничтожить человечество.

Мустафа Сулейман, руководитель ИИ-подразделения Microsoft, говорит, что компания не будет продолжать разработку ИИ, который может выйти из-под контроля. Это серьезный сигнал о приоритетах компании в области безопасности.

Евгений (MSReview)