Is it crazy to say Superintelligence won't replace us? Microsoft's AI chief weighs in

Microsoft, похоже, получила ключ к королевству генеративного ИИ после подписания нового соглашения с OpenAI. Теперь софтверный гигант может самостоятельно или в сотрудничестве с другими развивать AGI (искусственный общий интеллект). Но, как ни странно, глава Microsoft по ИИ, Мустафа Сулейман, выражает беспокойство по поводу развития ИИ, его безопасности и, как следствие, его долгосрочного влияния на человечество.

ИИ, конечно, уже стал мощным инструментом, который помогает развиваться образованию, медицине и развлечениям. Но вместе с ним приходят и проблемы: конфиденциальность, безопасность и даже экзистенциальные угрозы.

Например, один исследователь заявил, что вероятность вымирания человечества из-за ИИ приближается к 100%. А единственный способ этого избежать, по его мнению, – вообще не создавать ИИ. Но, кажется, поезд уже ушел, когда мы начали строить дата-центры стоимостью в триллион долларов.

Еще раньше Сулейман предупреждал об опасностях "сознательного ИИ", намекая, что общество еще не готово к таким последствиям. Это схоже с опасениями других лидеров в области ИИ, которым не дает покоя стремительный прогресс.

Но теперь Сулейман утверждает, что сверхинтеллектуальные ИИ не заменят нас.

"Я говорил раньше, что это будет больше похоже на цифровую форму жизни. Я называл это кажущимся сознательным, имеющим видимость сознания, но на самом деле не будущим сознательным. Я думаю, в целом, мы все пытаемся подобрать правильные слова, чтобы описать появление этой технологии, которая столь сильно отличается от всего, что мы видели раньше. И я думаю, чем больше людей говорят о гуманизме, верно? О примате человека, это одна из рамок, и это начало более широкой идеи, которую, я думаю, многие другие люди должны развивать и адаптировать. Но вот что ясно: такие проекты, как сверхинтеллект, не должны быть о замене или угрозе нашему виду. Это должно быть само собой разумеющимся. Это безумие, что приходится это заявлять. Это должно быть очевидно, но я вижу много признаков того, что люди не всегда согласны."

Эти слова прозвучали после того, как Microsoft объявила о создании новой команды MAI Superintelligence, которая займется самостоятельным развитием AGI.

По словам Сулеймана, Microsoft должна быть самодостаточной в области ИИ. Для этого им нужно обучать собственные передовые модели всех масштабов, используя свои данные и вычислительные мощности.

Но в отличие от конкурентов, Microsoft стремится к "гуманистическому сверхинтеллекту", который принесет "всю пользу науки и изобретений без "неконтролируемых рисков"". Главная цель – чтобы сверхинтеллект служил людям, а не заменял их.

FAQ

После подписания нового соглашения Microsoft имеет право заниматься развитием сверхинтеллекта и AGI, будь то самостоятельно или в сотрудничестве с другими сторонами, вне зависимости от своего многомиллиардного партнерства с OpenAI.

Чего Microsoft надеется достичь с помощью AGI?

По словам главы Microsoft по ИИ, Мустафы Сулеймана, компания хочет использовать сверхинтеллект для достижения значительных научных прорывов и инноваций, которые будут служить человечеству, а не заменять его.

Евгений (MSReview): Интересно, что даже в Microsoft, несмотря на активное развитие ИИ, говорят о необходимости контроля и гуманного подхода. Это важный сигнал в наше время.