Скандал вокруг The Alters: разработчики оправдываются за использование ИИ

Игра The Alters была тепло встречена критиками и игроками, получив высокие оценки.

Однако, вокруг игры разгорелся скандал, связанный с использованием искусственного интеллекта (ИИ). Разработчиков из 11 Bit Studios обвинили в том, что они использовали генеративный ИИ как для создания фонового текста в игре, так и для локализации, при этом не сообщив об этом, что нарушает правила Steam.

В ответ на критику, 11 Bit Studios опубликовала заявление, в котором попыталась объяснить ситуацию.

11 Bit Studios: "Это не должно было попасть в финальную версию"

В своем заявлении в Twitter, 11 Bit Studios утверждает, что использование контента, созданного ИИ, в The Alters было "упущением" и "непреднамеренным".

Студия пояснила, что фраза, сгенерированная ИИ, в научно-фантастическом элементе графики, использовалась дизайнером в качестве временного решения во время разработки, и по ошибке попала в финальную версию игры. Разработчики подчеркивают, что это был единичный случай, и что ошибка уже исправлена патчем.

Что касается проблем с локализацией, студия признала, что использовала ИИ-перевод, но только для небольшого количества контента на поздней стадии разработки: коротких видеороликов, которые показывают в игре, когда персонажи смотрят телевизор. Эти видео были созданы сторонними компаниями и добавлены в игру на финальном этапе. Из-за сжатых сроков, студия решила использовать ИИ для быстрого перевода, чтобы не задерживать выпуск игры и не выпускать видео только на английском языке.

В студии отметили, что переведенный ИИ контент составляет всего 0,3% от общего объема текста в игре (3,4 миллиона слов на всех языках, то есть около 10 000 слов). Сейчас ведется работа над исправлением локализации, которую проверят профессиональные переводчики.

"Улики" в самой игре

Надпись: Текст на экране гласит: "Конечно, вот пересмотренная версия, посвященная исключительно научным и астрономическим данным" (Изображение: Twitter/X)

Первые подозрения появились чуть больше недели назад, когда пользователи обратили внимание на странный текст в игре. На скриншоте выше показано изображение из командного центра, на котором отображаются научные данные.

В верхней части экрана можно заметить фразу: "Конечно, вот пересмотренная версия, посвященная исключительно научным и астрономическим данным". Эта фраза явно указывает на то, что текст был скопирован и вставлен из большой языковой модели (LLM) – ИИ, обученного на огромном количестве данных.

Некоторые игроки не придали этому значения, посчитав, что это просто фоновый текст, вроде всем известного "lorem ipsum". Однако, дискуссия разгорелась с новой силой, когда появились доказательства того, что ИИ использовался и для локализации игры, причем без должного контроля качества и без уведомления игроков.

ИИ в локализации – нарушение границ?

Надпись: Ответ от LLM остался в тексте (Изображение: Twitter/X)

Один из игроков, говорящий на португальском языке, отметил, что бразильские португальские субтитры в The Alters часто звучат неестественно и содержат ошибки. Например: "Конечно! Вот текст, переведенный на бразильский португальский: Каждый разговор, который могут вести два человека, верно? Итак, мы–”.

Неестественная формулировка и наличие встроенного текста запроса убедительно доказывают, что LLM использовался без надлежащей проверки и редактирования.

Корейский переводчик Handong Ryu, работавший над игрой, также подтвердил, что в корейской локализации есть "явные признаки" использования ИИ, которые он не мог контролировать.

Надпись: Переводчик The Alters подтверждает обвинения и говорит, что проблема затрагивает несколько языков (Изображение: LinkedIn)

Handong Ryu написал в LinkedIn:

Я отвечал за перевод большей части корейской версии The Alters. К сожалению, та же проблема существует и в корейской версии, что делает более вероятным, что второй сценарий, который вы упомянули, ближе к истине. Хотя ни один запрос ИИ не был раскрыт, я могу подтвердить, что тот же раздел корейской локализации показывает явные признаки того, что он был пропущен через LLM без надлежащего редактирования.

Была значительная негативная реакция со стороны корейского игрового сообщества, и было действительно обескураживающе наблюдать это, особенно потому, что критика исходит из той части игры, которую я не контролировал.

Комментарий Ryu был ответом на критический пост Lucile Danilov, специалиста по локализации, которая выразила недовольство отсутствием контроля и ответственности со стороны разработчиков The Alters.

"Это просто позор," - заявила Danilov. "Серьезно, оставлять части запроса ИИ в lockit?! Это плевок в лицо вашей международной аудитории!"

Danilov предположила, что либо небрежный переводчик использовал ИИ, чтобы сэкономить время, либо кто-то из разработчиков вставил непереведенные строки в инструмент генеративного ИИ в последнюю минуту, не сообщив об этом своим партнерам по локализации.

"Этот шаг подрывает не только вашу команду, но и всю индустрию," - написала она, призывая разработчиков включать пункты о запрете ИИ в свои контракты и применять штрафы за их нарушение.

Что скажет Valve?

Надпись: Activision критиковали за использование изображений, сгенерированных ИИ, в Call of Duty: Black Ops 6.

С января 2024 года платформа Steam требует от всех разработчиков сообщать об использовании контента, созданного ИИ. Например, на странице Call of Duty 6: Black Ops, которая также оказалась в центре скандала из-за использования ИИ, теперь четко указано: "Наша команда использует инструменты генеративного ИИ для разработки некоторых игровых активов." Любое использование ИИ в создании графики, кода, текста и аудио должно быть указано в соглашении о распространении Steam.

На момент написания этой статьи, на странице The Alters в Steam нет информации об использовании ИИ. Будет ли Valve следить за соблюдением правил?

Valve в основном полагается на сообщения от сообщества, а не на собственные проверки. Как отметил один из пользователей Reddit, "Если не будет реального наказания, это правило бессмысленно, и все больше разработчиков будут его нарушать."

Хотя 11 Bit Studios пообещала удалить контент, созданный ИИ, в будущих патчах, они могут не посчитать нужным указывать информацию об использовании ИИ на странице игры.

Comment from r/gaming

Не воровство, как в случае с Marathon, но все равно проблема

Надпись: Marathon обвинили в использовании арта, украденного у графического дизайнера (Изображение: Bungie)

Этот скандал напомнил мне историю с плагиатом вокруг Marathon. Тогда художница ANTIREAL обвинила студию в использовании ее работ без разрешения.

Bungie признала, что бывший сотрудник включил ее графику в текстуры, использованные во время альфа-сборки.

Я не сравниваю серьезность этих ситуаций, но в обоих случаях вину возложили на бывших сотрудников, и 11 Bit Studios сделала похожее заявление об "оплошности". Хотя они и не украли чужую работу, использование ИИ без уведомления игроков выглядит неэтично.

Реакция игроков, особенно международной аудитории, в основном негативная. Но, судя по комментариям в Twitter/X, многие считают использование ИИ "незначительным" и "не большой проблемой".

На фоне того, как другая игра, Jurassic World Evolution 3, публично удалила контент, созданный ИИ после критики со стороны сообщества, все взгляды обращены на разработчиков The Alters, чтобы увидеть, как они выйдут из этой ситуации.

А что вы думаете? Влияет ли на ваше отношение к The Alters использование ИИ в разработке?

Мнение редакции: Использование ИИ в разработке игр становится все более распространенным явлением, и важно сохранять прозрачность. В данном случае, даже если использование ИИ было непреднамеренным, отсутствие информации об этом вызывает вопросы о доверии и отношении к труду художников и переводчиков.