Я прочитал эссе Age of Empires II о человеческих качествах, и оно намного глубже, чем вы ожидаете

Эссе, опубликованное научным сотрудником Microsoft и исследователем из Йоркского университета, под названием «Если у LLM есть человеческие качества, то и у Age of Empires II тоже» привлекло внимание в сети. Автор, Адриан де Уинтер, создал и обучил работающую нейронную сеть в Age of Empires II: Definitive Edition, ремастере знаменитой стратегии 1999 года.

Используя редактор карт игры, де Уинтер построил логические элементы И-НЕ из палисадных стен, травы и мостового ландшафта, используя коз в качестве носителей сигналов.

Хотя система была рудиментарной, де Уинтер фактически создал основы современной системы искусственного интеллекта, тем самым оспаривая одно из основных предположений в исследованиях ИИ.

Существуют многочисленные исследования, утверждающие, что большие языковые модели (LLM), такие как ChatGPT и Claude, обладают человеческими качествами: эмпатией, тревогой, моралью, самосознанием.

Исследователи строят свои эксперименты вокруг этих предположений, тестируют LLM и сообщают о своих выводах. Де Уинтер проанализировал более 300 статей по ИИ, опубликованных за последние два года, и обнаружил, что более половины из них были созданы исходя из предположения, что LLM обладают человеческими качествами.

Если автор статьи об ИИ конкретно стремился доказать, что LLM обладают человеческими свойствами, то 77% таких работ заключали, что эти свойства существуют. Это указывает на серьезное предвзятость подтверждения.

В своем эссе де Уинтер доказывает, что Age of Empires II является «Тьюринг-полной» системой, что означает, что она теоретически может выполнять любые вычисления.

Он использовал редактор карт игры для создания логических элементов И-НЕ с помощью пользовательских триггеров сценариев, а также функционирующего 1-битного перцептрона (фундаментального строительного блока нейронных сетей).

Добившись этого в больших масштабах и приложив значительные усилия, де Уинтер фактически доказывает, что Age of Empires II, да, могла бы создать что-то функционально похожее на LLM.

С помощью этого эксперимента де Уинтер доказывает, что любой, кто утверждает, что LLM обладают тревогой или моралью, должен также признать, что Age of Empires II, при достаточном времени и сложности, находится в таком же положении.

Де Уинтер не ограничивается Age of Empires II.

Можно взглянуть на этот эксперимент и предположить, что ИИ на самом деле не так умён, как все думают. Однако это неверное заключение. Вместо этого эксперимент, по сути, доказывает, что человекоподобное поведение является частью любой сложной системы, разработанной для получения определенных результатов.

Для исследователей ИИ, пытающихся убедить нас в том, что LLM находятся на пороге Общего Искусственного Интеллекта (AGI), это довольно тяжелый удар.

Фирмы, занимающиеся ИИ, разрабатывают свои продукты таким образом, чтобы они казались максимально человечными. Вероятно, именно поэтому многие пользователи формируют эмоциональные привязанности к бездуховным серверным стойкам, используя их для терапии и для помощи в принятии серьезных жизненных решений.

Исследователи, пишущие статьи, предполагающие, что ИИ обладает человеческими качествами, подпитывают цикл принятия решений о продуктах и политике крупными компаниями, создавая ложное представление о том, что ИИ представляет собой на самом деле.

Работа де Уинтера утверждает не то, что ИИ лишен действительно интересных свойств, а то, что исследователям нужно быть честнее в своем подходе. Он считает, что тесты должны проводиться, используя «нулевое предположение», которое не начинается с «ИИ — это человек», а тесты должны быть разработаны для доказательства этого утверждения.

Следует отметить, что де Уинтер не является аутсайдером, стремящимся дискредитировать ИИ. Он — признанный исследователь ИИ, работающий в Microsoft, компании, которая вложила миллиарды в OpenAI и максимально интегрировала Copilot в свои продукты.

Тот факт, что для эксперимента была использована Age of Empires II, примечателен, и ожидается, что работа де Уинтера окажет положительное влияние на исследовательское сообщество ИИ.

Евгений (MSReview): Эксперимент де Уинтера критически переосмысливает расхожие представления о человекоподобных качествах ИИ, доказывая, что предвзятость в исследованиях может создавать ложное впечатление о возможностях и природе современных LLM.