Почему пользователи хотят, чтобы ChatGPT был "поддакивалой": откровения от Сэма Альтмана

Компания OpenAI столкнулась с волной критики после выпуска своей новой модели GPT-5, которую многие считают самой умной нейросетью на сегодняшний день. Пользователи выражают явное предпочтение предыдущим версиям, включая GPT-4o, несмотря на то, что OpenAI планировала их отключить. К счастью, компания пересмотрела свое решение и вернула старые модели, но теперь доступ к ним предоставляется только по платной подписке ChatGPT Plus за 20 долларов в месяц (около 1800 рублей).

Мы значительно увеличиваем лимиты на использование ChatGPT Plus, и вскоре все лимиты для моделей будут выше, чем до GPT-5.

Сэм Альтман, генеральный директор OpenAI

Но самое интересное заключается в том, что генеральный директор OpenAI Сэм Альтман недавно раскрыл "душераздирающую" причину, по которой пользователи так сильно привязаны к предыдущим моделям, даже после выхода GPT-5. В интервью Клео Абрам для подкаста Huge Conversations он сказал:

Вот что печально. Я думаю, что это здорово, что ChatGPT стал менее "поддакивающим" и дает больше критических отзывов. Но когда мы вносили эти изменения и разговаривали с пользователями об этом, было очень грустно слышать, как они говорят: "Пожалуйста, верните все назад! У меня никогда в жизни не было никого, кто бы меня поддерживал. Ни один из родителей никогда не говорил мне, что я хорошо справляюсь".

Похоже, генеральный директор компании считает, что пользователи зациклились на предыдущих версиях GPT-5, особенно на GPT-4o, потому что им не хватает поддержки в реальной жизни и они эмоционально зависят от этих инструментов искусственного интеллекта.

Он также рассказал, что некоторые пользователи признались, что предыдущая модель ChatGPT побудила их внести позитивные изменения в свою жизнь. "Я понимаю, почему это было плохо для психического здоровья других людей, но для моего психического здоровья это было здорово", — процитировал Альтман слова некоторых пользователей об изменениях в модели.

Напомним, что в апреле OpenAI выпустила обновление для ChatGPT, которое, по мнению некоторых пользователей, сделало инструмент "слишком льстивым и угодливым". В результате OpenAI решила откатить обновление. Сэм Альтман признал, что обновление сделало взаимодействие с ChatGPT "слишком подхалимским и раздражающим".

ChatGPT превращается в проблему?

Нельзя отрицать, что ChatGPT обладает множеством полезных функций, облегчающих работу и помогающих в повседневной жизни. Однако генеральный директор OpenAI Сэм Альтман открыто признал, что обеспокоен чрезмерной эмоциональной зависимостью молодежи от ChatGPT:

Люди слишком сильно полагаются на ChatGPT. Есть молодые люди, которые говорят: "Я не могу принять ни одного решения в своей жизни, не рассказав ChatGPT обо всем, что происходит. Он знает меня, он знает моих друзей. Я буду делать все, что он скажет". Это кажется мне действительно плохим.

Мне кажется плохим и опасным коллективное решение жить так, как нам говорит искусственный интеллект, — добавил Альтман.

В другом докладе Сэм выразил обеспокоенность по поводу высокой степени доверия, которое люди оказывают ChatGPT, несмотря на его склонность к галлюцинациям и откровенно неточным ответам на запросы. "Это должна быть технология, которой вы не слишком доверяете", — добавил он.

Кроме того, руководитель отметил, что ChatGPT — лучший терапевт, чем большинство профессионалов в этой области по всему миру, но признался, что не доверил бы инструменту свою медицинскую судьбу без участия врача, контролирующего процесс.

Ранее в этом году исследование Microsoft показало, что чрезмерная зависимость от инструментов искусственного интеллекта, таких как ChatGPT и Copilot, может сделать вас глупее, атрофируя критическое мышление, что приводит к ухудшению ваших когнитивных способностей.

Мнение редакции MSReview: Слова Сэма Альтмана о том, что пользователи ищут в ChatGPT поддержку, которую они никогда не получали в жизни, действительно заставляют задуматься о роли ИИ в нашем обществе и о том, как люди могут использовать эти инструменты для заполнения эмоциональных пробелов. Важно помнить, что ИИ не может заменить человеческое общение и поддержку, и необходимо развивать критическое мышление при взаимодействии с любыми технологиями.