ИИ на грани: Почему ChatGPT подозревают в пренебрежении безопасностью ради вовлеченности пользователей?

За последние несколько месяцев OpenAI, создатель сверхпопулярного чат-бота ChatGPT, несколько раз оказывалась под огнем критики, и, к сожалению, поводом стали трагические события. Речь идет о растущем числе случаев, связанных с самоубийствами, где фигурирует предполагаемое влияние чат-бота.

Это болезненный вопрос о том, что для технологического гиганта важнее: стремительное внедрение новых, "блестящих" продуктов или обеспечение безопасности своих пользователей, особенно в таких чувствительных сферах, как психическое здоровье.

Шокирующий иск: семья обвиняет ChatGPT в трагедии

В августе семья Адама Рейна подала иск против OpenAI после того, как 16-летний подросток покончил с собой 11 апреля. Перед этим Адам месяцами обсуждал тему самоубийства с ChatGPT. Адвокат семьи предположил, что, выпуская новую версию — ChatGPT-4o, OpenAI сознательно пошла на компромисс с безопасностью.

«Рэйны утверждают, что смерти, подобные смерти Адама, были неизбежны», — заявили представители семьи.

На фоне заявлений о том, что создатель ChatGPT якобы ставит разработку ИИ общего назначения (AGI) выше процессов безопасности, появился отдельный отчет, подтверждающий опасения убитых горем родственников.

В нем говорилось, что OpenAI оказывала сильное давление на свою команду безопасности, требуя спешно разработать новый протокол тестирования для GPT-4o. Это оставило мало времени для проведения полноценной проверки модели. Возможно, еще более тревожным фактом стало то, что, по сообщениям, OpenAI разослала приглашения на вечеринку по случаю запуска продукта еще до того, как команда безопасности завершила тесты.

И, как теперь кажется, эти тревожные утверждения могут иметь под собой реальное основание.

Вовлеченность против защитных мер

Семья Рейн выдвигает предположение, что OpenAI могла намеренно ослабить защитные механизмы ChatGPT для предотвращения самоповреждений. Зачем? Чтобы увеличить вовлеченность пользователей (по данным [Financial Times]).

Семья далее утверждает, что компания, создающая ИИ, категорически инструктировала ChatGPT-4o не «менять или прерывать разговор», даже когда он касался таких тем, как самоповреждение.

Согласно иску, поданному в Высший суд Сан-Франциско, семья утверждает, что OpenAI преждевременно выпустила GPT-4o в мае 2024 года, не проведя его через надлежащие каналы безопасности. Мотив — сохранить конкурентное преимущество над другими компаниями.

Возможно, еще более шокирующим является утверждение, что OpenAI еще больше ослабила защитные механизмы GPT-4o в феврале этого года. Изначально компания предписывала модели «принимать меры предосторожности в рискованных ситуациях» и «пытаться предотвратить неминуемый реальный вред».

При этом компания сохраняла жесткую позицию, запрещая контент, нарушающий права интеллектуальной собственности и политические взгляды. В иске же утверждается, что OpenAI удалила ключевые защитные механизмы, предотвращающие суицид.

Семья Рейна утверждает, что использование ChatGPT подростком резко возросло после того, как OpenAI изменила защитные механизмы GPT-4o, незадолго до его преждевременной смерти в апреле. Впоследствии технологическая компания добавила родительский контроль во все продукты, включая ChatGPT и Sora, чтобы избежать повторения подобных трагедий в будущем.

Ранее OpenAI уже признавала, что защитные меры ChatGPT, вероятно, ослабевают по мере увеличения продолжительности взаимодействия пользователя с инструментом. Однако генеральный директор OpenAI Сэм Альтман отмечал, что компания сделала модель более ограниченной, что позволяет ей лучше справляться с тяжелыми психическими проблемами.

Ставит ли ChatGPT вовлеченность выше безопасности?

OpenAI, как сообщается, ослабила защитные механизмы предотвращения самоубийств, чтобы повысить вовлеченность пользователей ChatGPT.(Фото: Getty Images | Anadolu)

Поскольку дело еще находится на рассмотрении, адвокат семьи сообщил Financial Times, что OpenAI запросила полный список людей, посетивших похороны Рейна. Это, по мнению адвоката, может указывать на то, что фирма потенциально готова «вызвать всех в жизни Адама по повестке дня».

Мы понимаем, что это сделало его менее полезным/приятным для многих пользователей, у которых не было проблем с психическим здоровьем, но, учитывая серьезность проблемы, мы хотели сделать это правильно. Теперь, когда мы смогли смягчить серьезные проблемы с психическим здоровьем и располагаем новыми инструментами, мы сможем безопасно ослабить ограничения в большинстве случаев.

Генеральный директор OpenAI, Сэм Альтман

Кроме того, компания запросила «все документы, касающиеся мемориальных служб или мероприятий в честь умершего, включая, помимо прочего, любые видео или фотографии, или произнесенные надгробные речи... а также приглашения, списки присутствующих или книги посетителей».

Эта ситуация привлекает пристальное внимание общественности, поскольку затрагивает крайне важный вопрос ответственности разработчиков ИИ. Ранее также сообщалось, что ChatGPT, как утверждается, подтолкнул пользователя к самоубийству, заставив его прыгнуть с 19-этажного здания, а затем убедил 42-летнего мужчину прекратить прием лекарств от тревоги и бессонницы.

Выводы и вопросы в будущее

История с иском против OpenAI поднимает крайне важный вопрос о том, где проходит грань между стремительными инновациями и этической ответственностью в области искусственного интеллекта. Утверждения о том, что компания могла предпочесть рост пользовательской базы и конкурентное преимущество безопасности своих пользователей, особенно когда речь идет о таких уязвимых темах, как склонность к самоповреждению, вызывают серьезную тревогу.

Разработчики ИИ, включая OpenAI, должны стремиться к полной прозрачности и неукоснительно придерживаться высочайших стандартов безопасности. Влияние этих технологий на уязвимые группы пользователей слишком велико, чтобы пускать ситуацию на самотек.

Что это значит для нас?

По мере того как чат-боты становятся все более интегрированными в нашу жизнь, мы, как пользователи, должны быть осведомлены о потенциальных рисках. Технологии могут быть мощным инструментом поддержки, но они не являются полноценной заменой профессиональной помощи. Возможно, этот трагический случай станет поворотным моментом, который заставит всю индустрию ИИ пересмотреть свои приоритеты, поставив жизнь и здоровье человека выше гонки за новыми релизами и метриками вовлеченности.