"Цифровой призрак в машине": Глава Microsoft AI бьет тревогу из-за "сознательного ИИ"

Что движет технологическими гигантами, вкладывающими миллиарды в генеративный ИИ? Конечная цель – AGI (Artificial General Intelligence, или общий искусственный интеллект). Но это понятие стало настолько расплывчатым, что каждый понимает его по-своему.

В общих чертах, AGI – это мощная ИИ-система, превосходящая человеческий разум. Однако, согласно многомиллиардному соглашению Microsoft и OpenAI, AGI – это система, способная приносить до 100 миллиардов долларов прибыли.

Именно эта цифра связывает OpenAI с Microsoft, заставляя компанию под давлением инвесторов как можно скорее стать прибыльной, чтобы не потерять финансирование и не стать жертвой враждебного поглощения.

Но технологии развиваются так стремительно, что степень PhD может устареть еще до защиты диссертации. И вот еще одна тревожная новость: глава Microsoft AI Мустафа Сулейман в своем блоге заявил: "Мы должны создавать ИИ для людей, а не для того, чтобы он был человеком". Звучит так, будто "сознательный ИИ" уже не за горами.

Сулейман пишет:

"Он [сознательный ИИ] разделяет некоторые черты с идеей "философского зомби" (это такой термин!), который имитирует все признаки сознания, но внутри пуст. Моя гипотетическая ИИ-система не будет по-настоящему сознательной, но сможет имитировать сознание настолько убедительно, что ее невозможно будет отличить от реального человека."

Меня все больше беспокоит так называемый "риск психоза" и связанные с ним проблемы. И это коснется не только людей с проблемами психического здоровья. Я боюсь, что многие настолько поверят в иллюзию сознательного ИИ, что начнут бороться за права ИИ, за "благополучие" моделей и даже за "гражданство" для ИИ. Это опасный поворот, требующий немедленного внимания.

Мустафа Сулейман, глава Microsoft AI.

Сулейман подчеркивает, что его цель – создать безопасный и полезный ИИ, который улучшит мир. Такие инструменты, как Microsoft Copilot, помогут людям совершать невероятные вещи, о которых они раньше и не мечтали.

Он также добавил, что его миссия в Microsoft – сделать ИИ, который сделает нас более человечными, укрепит доверие и взаимопонимание между людьми, превратив Copilot в настоящего друга и компаньона.

Сулейман говорит:

"Для этого требуется множество продуманных дизайнерских решений, чтобы обеспечить действительно потрясающий опыт. У нас не всегда будет получаться идеально, но этот гуманистический подход указывает нам верный путь."

Глава Microsoft AI настаивает: ИИ нужно создавать для людей, а не превращать его в "цифрового человека". Он призывает к разработке ИИ-компаньонов, но подчеркивает важность мер предосторожности, которые помогут защитить людей и принесут пользу.

Что еще более тревожно, по словам Сулеймана, "сознательный ИИ" – это не просто теория. Его можно создать уже сегодня, используя существующие технологии и те, что появятся в ближайшие 2-3 года. Причем не потребуется дорогостоящего обучения на заказ. Достаточно доступа к API большой модели, подсказок на естественном языке, базовых инструментов и простого кода.

Бессонные ночи главы DeepMind из-за перспектив ИИ

В последние годы прогресс в области ИИ все чаще предсказывают как неминуемую гибель человечества. Эксперт по безопасности ИИ Роман Ямпольский утверждает, что существует 99,999999% вероятности того, что ИИ уничтожит человечество. По его мнению, единственный способ избежать этого – вообще не создавать ИИ.

Глава OpenAI Сэм Альтман, напротив, весьма оптимистичен в отношении влияния ИИ на общество. Несмотря на утверждения, что компания ставит блестящие продукты вроде AGI выше безопасности, он считает, что компания достигнет AGI в течение пяти лет. И, что удивительно, эта веха пройдет практически незамеченной.

Дарио Амодей, глава Anthropic, недавно признал, что компания не понимает, как работают ее модели. А Демис Хассабис, глава Google DeepMind, заявил о скором появлении AGI, что вызывает еще больше опасений. По его словам, перспективы ИИ не дают ему спать по ночам.

Мустафа Сулейман считает, что у "сознательного ИИ" будет свой язык, память, самосознание, внутренняя мотивация и целеустремленность. И это не произойдет случайно. "Сознательный ИИ" будет создан инженером, который объединит все эти возможности.

Сулейман уверен, что общество не готово к "сознательному ИИ", поэтому необходимы меры предосторожности. "Мы должны создавать ИИ, который ставит во главу угла взаимодействие с людьми и реальным миром, и который всегда представляется только как ИИ, максимизируя полезность и минимизируя признаки сознания", – добавил глава Microsoft AI.

Мнение редакции MSReview: Разговоры о "сознательном ИИ" становятся все более распространенными, но важно помнить, что это пока во многом теория. Мы должны быть осторожны и учитывать потенциальные риски, но не стоит поддаваться панике. Необходимо продолжать исследования в этой области, руководствуясь ответственностью и этическими соображениями.