Главный по ИИ: "Искусственный Интеллект изменит мир, и мы к этому не готовы. Впереди — хаос и быстрая адаптация"

По мере того, как генеративный искусственный интеллект (ИИ) становится всё более мощным, помогая нам совершать прорывы в медицине, технологиях и развлечениях, всё сложнее понять, когда же ведущие лаборатории — OpenAI, Anthropic и Google — смогут создать Искусственный Общий Интеллект (ИОИ).

ИОИ (AGI) — это ИИ-система, который способен выполнять любую интеллектуальную задачу на человеческом уровне или выше. Это, по сути, универсальный разум.

Недавно появились слухи о том, что крупные ИИ-разработчики могут столкнуться с проблемой, которую называют «стеной масштабирования»: им перестает хватать качественных данных для обучения своих продвинутых моделей. Например, многомиллиардное партнерство Microsoft и OpenAI оказалось под пристальным вниманием из-за планов по коммерциализации.

Ходили разговоры, что технологический гигант даже отказался от строительства двух крупных дата-центров, якобы не желая обеспечивать дополнительную вычислительную мощность для обучения ChatGPT. Однако генеральный директор OpenAI Сэм Альтман (Sam Altman) утверждает, что сейчас компания больше не ограничена вычислительными ресурсами.

Стоит отметить, что партнерское соглашение Microsoft и OpenAI включает строгое условие, касающееся ИОИ: если этот заветный ориентир будет достигнут, обе стороны должны будут прекратить отношения. В одном из отчетов говорилось, что такой ИОИ способен принести до 100 миллиардов долларов прибыли.

За последние несколько лет Сэм Альтман делился интересными мыслями о том, как будет выглядеть мир, управляемый ИИ, после появления ИОИ. В то время как множество пользователей и регуляторов высказывают опасения по поводу конфиденциальности и безопасности, глава OpenAI настаивает, что настоящие тревоги наступят не сейчас, а именно в момент появления ИОИ.

Чего ждать от ИОИ: пройдёт незаметно или вызовет хаос?

Сэм Альтман считает, что ИОИ будет достигнут в течение следующих пяти лет. Но, вопреки всем блокбастерам, по его мнению, это произойдет тихо и с удивительно малым первоначальным влиянием на общество.

Во время недавнего интервью для a16z Альтман заявил, что: «ИОИ придет, и он пройдёт незаметно». Он также отметил, что мир изменится не так внезапно, как многие ожидают.

«Это не будет сингулярностью [момент, когда ИИ превзойдет человеческий разум], как мы ее представляем. Даже если это будет своего рода безумный прорыв в области ИИ, общество будет учиться быстрее. Оглядываясь назад, мы увидим, что люди и общества гораздо более адаптивны, чем мы думаем. Переход будет более плавным, чем мы ждали».

Сэм Альтман, генеральный директор OpenAI

Так почему же многие эксперты боятся этого момента, если всё будет так гладко?

Альфман признает, что полное отсутствие риска невозможно:

«Тот факт, что технология пока не создала по-настоящему пугающего гигантского риска, не означает, что этого никогда не произойдет. Странная ситуация, когда миллиарды людей общаются с “одним и тем же мозгом” [универсальным ИОИ]. Могут возникнуть своего рода странные общественные явления, которые уже происходят, но они не пугают в глобальном смысле, они просто другие. Я ожидаю, что эта технология приведет к некоторым неприятностям — как это бывало и с предыдущими технологиями». Генеральный директор OpenAI, Сэм Альтман.

Несмотря на это, глава OpenAI оптимистично уверен: компания, а вслед за ней и общественность, разработают необходимые механизмы контроля, чтобы технология не вышла из-под контроля.

Это заявление прозвучало после того, как OpenAI ввела функцию родительского контроля в ChatGPT на фоне опасений о влиянии ИИ на молодежь.

Ответы на важные вопросы об ИОИ

Что такое ИОИ?

ИОИ, или Искусственный Общий Интеллект, подразумевает ИИ-системы, которые способны выполнять любую интеллектуальную задачу, которую человек выполняет с помощью своего мозга, а не только узкоспециализированные функции (вроде генерации картинок или написания текста). Это универсальный разум.

Почему слова Альтмана вызывают споры?

Критики считают, что полагаться на «будущую адаптацию» рискованно, когда речь идет о технологиях, способных в корне изменить экономику, политику и права человека. Ожидание реакции на уже свершившиеся изменения может привести к необратимым и негативным последствиям.

Альтман настроен оптимистично или осторожен?

И то, и другое. Он признает потенциал для серьезных нарушений и даже страха, но при этом уверен, что общество в итоге адаптируется и получит от этого выгоду. Он считает, что мы сможем пройти через этот хаотичный переходный период.

Что это значит для политиков и обычных людей?

Это говорит о необходимости проактивного регулирования, создания этических норм и повышения осведомленности общества. Даже если полное влияние ИОИ не будет очевидно сразу, подготовка, начатая прямо сейчас, может сгладить те самые «пугающие моменты», которые предвидит Альтман.

Мнение редакции MSReview:

Сэм Альтман, безусловно, является одной из ключевых фигур в области искусственного интеллекта, и его прогнозы заслуживают внимания. Однако, несмотря на его оптимизм относительно адаптивности общества, важно помнить, что наступление ИОИ может быть как огромной возможностью, так и серьезным вызовом. Не стоит недооценивать потенциальные риски, связанные с таким фундаментальным изменением, и необходимо уже сейчас разрабатывать стратегии для минимизации негативных последствий, а не полагаться исключительно на будущую адаптацию.