Гонка за сверхинтеллектом: как опасения насчет власти над ИИ породили OpenAI

Искусственный общий интеллект (AGI) – термин, который все чаще звучит из уст лидеров технологических компаний, когда речь заходит о будущем развития ИИ. Но что же это такое на самом деле? И кто станет лидером в этой гонке?

Роман Ямпольский, эксперт в области безопасности ИИ, считает, что победителем станет компания, у которой хватит денег на вычислительные мощности, необходимые для создания AGI. Время больше не главное ограничение – вопрос лишь в ресурсах.

Дэниел Кокотайло, бывший исследователь OpenAI, поделился интересной информацией об альтернативном и, возможно, опасном пути развития ИИ. По его словам, Демис Хассабис, глава DeepMind (принадлежит Google), изначально планировал создать и быстро развить AGI, используя огромные ресурсы Google.

Дэниел Кокотайло утверждает, что первоначальный план Демиса по безопасному созданию AGI провалился из-за недоверия. Илон Маск, Сэм Альтман и Илья Суцкевер опасались, что он станет "диктатором, использующим AGI", и поэтому основали OpenAI. Позже часть команды отделилась и создала Anthropic. Все пытаются согласовать будущее, но никто не может договориться...

Сатья Наделла, генеральный директор Microsoft, считает, что Google уже упустила свой шанс в сфере ИИ. Однако Хассабис планировал первым представить AGI, а затем использовать лидерство Google для обеспечения безопасности.

Но этим планам не суждено было сбыться. Илон Маск, Сэм Альтман и Илья Суцкевер объединили усилия и основали OpenAI.

По словам Кокотайло, руководители запустили OpenAI, потому что не доверяли Демису Хассабису и его способности ответственно распоряжаться властью, которую дает AGI. Они боялись, что "вся судьба мира окажется в его руках".

"Они хотели создать OpenAI, чтобы она стала противодействующей силой, которая смогла бы сделать все правильно, распространить [AGI] на всех и не концентрировать власть в руках Демиса," – заявил Кокотайло.

Он также упомянул об утечках электронных писем, подтверждающих его слова и подчеркивающих опасения основателей OpenAI по поводу того, что Хассабис станет "диктатором", использующим AGI.

Интересно, что с тех пор OpenAI покинули многие члены-основатели. Большинство из них ссылались на опасения по поводу безопасности, утверждая, что компания отдает приоритет "блестящим продуктам", таким как AGI, а процессы и культура безопасности отодвигаются на второй план. Сэм Альтман, генеральный директор OpenAI, признает, что у компании нет проверенной стратегии в области безопасности ИИ.

Кокотайло утверждает, что OpenAI уверена в своих технических талантах и способности решить проблемы согласования и безопасности лучше, чем конкуренты. В прошлом году Сэм Альтман выразил уверенность в том, что его команда сможет создать и развить AGI, и заявил, что компания смещает акцент в сторону сверхинтеллекта.

Мнение редакции MSReview: История OpenAI показывает сложную динамику между инновациями, безопасностью и контролем в области ИИ. Опасения по поводу централизации власти подчеркивают важность открытого и прозрачного подхода к разработке AGI.