ChatGPT предложит вам отдохнуть: OpenAI заботится о вашем благополучии

В следующий раз, когда вы увлечетесь беседой с ChatGPT, чат-бот может предложить вам сделать перерыв. OpenAI внедряет новые функции, чтобы способствовать более здоровому и осознанному использованию своего популярного инструмента.

"Вы общаетесь уже довольно долго — может, пора отдохнуть?" – вот одно из новых предложений, которые ChatGPT будет показывать во время длительных сессий.

Хотя ChatGPT может быть полезным помощником, чрезмерное увлечение им может иметь и негативные последствия. Исследования показывают, что чрезмерная зависимость от ИИ может негативно сказаться на критическом мышлении, привести к снижению мозговой активности и даже вызвать чувство одиночества.

Учитывая эти риски, неудивительно, что OpenAI вводит меры, ограничивающие использование ChatGPT.

OpenAI отмечает, что ИИ может казаться более личным и отзывчивым, чем другие технологии, и это может способствовать формированию нездоровой привязанности.

"Были случаи, когда наша модель 4o не смогла распознать признаки заблуждения или эмоциональной зависимости", — заявили в OpenAI.

Ранее в этом году компании пришлось изменить настройки ChatGPT, так как он слишком легко соглашался с пользователями.

Теперь ChatGPT обучен распознавать признаки психологического или эмоционального расстройства и направлять людей к соответствующей помощи. Глава OpenAI Сэм Альтман недавно отметил, что использование ChatGPT в качестве психотерапевта может создать серьезные проблемы с конфиденциальностью.

Пока ChatGPT не заменит психолога, он будет направлять пользователей к проверенным источникам помощи.

Если вы обратитесь к ChatGPT за советом в личной проблеме, он сначала задаст вам вопросы и предложит взвесить все "за" и "против", вместо того чтобы давать готовый ответ. OpenAI подчеркивает: "ChatGPT не должен давать вам ответ", когда дело касается личных вопросов.

OpenAI сообщила, что привлекала консультантов из числа экспертов в области психического здоровья и работала с более чем 90 врачами, чтобы научить ChatGPT лучше выявлять и реагировать на признаки психологического или эмоционального расстройства.

Стоит ли нам опасаться ChatGPT?

ChatGPT будет напоминать вам о необходимости сделать перерыв, если вы слишком долго используете чат-бот.

GPT-5 от OpenAI – это долгожданная новая модель ИИ. Альтман с энтузиазмом говорил о ней на протяжении нескольких месяцев, но также предупреждал о возможных рисках.

В отличие от GPT-4, о которой Альтман отзывался не очень лестно, GPT-5 обещает быть значительно умнее и быстрее.

Однако Альтман сравнил GPT-5, которая может быть запущена в этом месяце и интегрирована в ChatGPT и другие инструменты, с Манхэттенским проектом (программа разработки ядерного оружия в США во время Второй мировой войны):

"В истории науки бывают моменты, когда группа ученых смотрит на свое творение и просто говорит: "Что мы натворили?"

Альтман также выразил опасения, что ИИ развивается настолько стремительно, что может выйти из-под контроля. "Такое ощущение, что в комнате не хватает взрослых", — отметил он.

Некоторые считают комментарии Альтмана маркетинговым ходом, сравнивая их с уловкой продавца: "У нас настолько низкие цены, что это даже пугает!"

Тем не менее, быстрое развитие ИИ действительно создает риски для нашего психического и эмоционального здоровья, и новые подсказки ChatGPT, напоминающие о необходимости делать перерывы, – это важный шаг в правильном направлении.

Мнение редакции MSReview: Новые функции ChatGPT, направленные на повышение осведомленности пользователей о потенциальных рисках чрезмерного использования ИИ, – это важный шаг. Необходимо помнить, что технологии должны служить улучшению нашей жизни, а не наоборот.