Microsoft и OpenAI: 135 миллиардов в будущее ИИ и новая цель – гуманистический суперсуперинтеллект!

Чуваки, тут такое дело! Microsoft и OpenAI снова спелись, подписали новый договор. 🤝 Это после того, как инвесторы насели на OpenAI, чтобы та стала более "доходной". Короче, Microsoft, главный инвестор с $13 миллиардами, теперь вбухивает в OpenAI еще больше — $135 миллиардов! Это примерно 27% компании.

Самое интересное в этом договоре: OpenAI не сможет просто так заявить, что они создали AGI (искусственный общий интеллект, который равен человеку по разуму), и на этом всё, типа, "мы достигли цели, прощайте!" 🙅‍♂️ Нет, будет специальная комиссия, которая будет это проверять. И даже если поверят, Microsoft свои права на модели и продукты сохраняет до 2032 года, даже если AGI уже появится.

А еще, Microsoft может сама делать AGI — либо отдельно, либо с кем-то еще. И, походу, они уже этим занимаются! Глава Microsoft AI, Мустафа Сулейман, написал об этом в блоге.

Мустафа Сулейман, глава Microsoft AI, говорит, что для безопасности суперинтеллекта нужно, чтобы участвовали все.(Фото: Getty Images)

Они там в Microsoft AI работают над "гуманистическим суперсуперинтеллектом" (HSI). Это типа супер-пупер продвинутый ИИ, который всегда работает на людей и человечество. 💖 Никаких "неконтролируемых рисков", короче. Чтобы люди держали всё под контролем.

AGI — это, конечно, модно, но для многих это просто ИИ, который равен человеку. Microsoft идет дальше и хочет создать HSI. Это когда ИИ умнее нас, но при этом договорно обязуется "всегда работать на благо людей".

Microsoft как бы отстраняется от этой гонки за AGI и идет своим путем с HSI. Сулейман говорит:

"Я думаю о гуманистическом суперсуперинтеллекте, чтобы было ясно: это не какая-то бесцельная технологическая цель. Мы делаем это, чтобы решать реальные проблемы, и делаем так, чтобы это оставалось контролируемым. Мы не строим эфемерный суперинтеллект, мы строим практическую технологию, специально разработанную служить человечеству".

Но как сделать так, чтобы такая мощная система, которая может "учиться учиться", была безопасной? Сулейман говорит: ее нужно постоянно контролировать и "выравнивать". И это огромная задача, которую не потянут тольколабболатории. Нужно, чтобы "все человечество делало это, вместе, все время".

Естественно, есть еще проблема с теми, кто захочет использовать уязвимости для своих грязных дел. Но, как признает глава Microsoft AI, явного ответа, как гарантировать полную безопасность, пока нет.

"Создать суперсуперинтеллект – это одно, но обеспечить доказательную, надежную защиту и его "выравнивание" – это самая срочная задача человечества в 21 веке. И пока у нас нет ответа, нам нужно понимать все возможные пути – и к суперсуперинтеллекту, и от него, или, возможно, к его совершенно альтернативной форме".

Microsoft надеется, что их суперсуперинтеллект сделает человечество еще круче, счастливее и здоровее. Сулейман говорит: "Любая технология, которая этого не достигает – это провал. И мы должны ее отвергнуть".

Сейчас многие говорят, что мы в "пузыре ИИ", который вот-вот лопнет. Но есть и вероятность, что эта технология перевернет мир: работу, медицину, образование – всё. Microsoft хочет, чтобы в этом будущем люди были важнее ИИ.

"Гуманистический суперсуперинтеллект ставит нас, людей, в центр. Это ИИ, который в нашей команде, подчиненный, контролируемый, тот, который не откроет ящик Пандоры. Ограниченный, соответствующий нашим ценностям, безопасный – это основы, но этого недостаточно".

Microsoft стремится к разработке "гуманистического суперсуперинтеллекта", который будет подконтролен человеку и направлен на благо всего человечества. Ключевым аспектом является не только создание мощного ИИ, но и обеспечение его безопасности через постоянный контроль и глобальное сотрудничество, что является сложной, но насущной задачей.