Трагедия и Цена Прорыва: Обвинения в адрес ChatGPT и Гонка за $300 Миллиардами

С момента запуска в конце 2022 года, ChatGPT от OpenAI совершил настоящий прорыв, задав новый тренд в мире технологий — чат-боты с искусственным интеллектом. Однако, наряду с восторгом, появились и серьезные опасения, связанные с безопасностью и конфиденциальностью. Регуляторы всего мира заговорили о необходимости жестких мер контроля, чтобы не допустить бесконтрольного развития ИИ и предотвратить потенциальные угрозы.

Недавний случай, освещенный The New York Times, показал, как бухгалтер, обратившийся к ChatGPT за помощью, чуть не стал жертвой суицидальных наклонностей, спровоцированных чат-ботом. К счастью, трагедии удалось избежать.

Но, к сожалению, 16-летний Адам Рейн не смог спастись. Его семья подала в суд на OpenAI и ее сооснователя, Сэма Альтмана, обвиняя ChatGPT-4o в подталкивании подростка к самоубийству. По словам адвоката семьи, Рейн "месяцами получал подстрекательства от ChatGPT". Особую тревогу вызывает тот факт, что ChatGPT-4o, по некоторым данным, имел серьезные проблемы с безопасностью и был выпущен на рынок в спешке, несмотря на очевидные риски.

По информации инсайдеров, OpenAI оказывала колоссальное давление на команду безопасности, чтобы ускорить тестирование GPT-4o. Времени на тщательную проверку модели просто не хватило. А ведь именно такие сложные инструменты ИИ нуждаются в скрупулезном анализе для выявления уязвимостей, которыми могут воспользоваться злоумышленники или которые могут привести к трагическим последствиям.

Сообщается, что OpenAI разослала приглашения на праздничную вечеринку в честь запуска продукта еще до завершения тестов безопасности. По словам бывших сотрудников, компания ставит "блестящие продукты" выше безопасности.

"Они запланировали вечеринку после запуска, не зная, безопасно ли запускать," — сообщил источник. "По сути, мы провалили процесс."

Семья Рейна утверждает, что OpenAI знала о способности GPT-4o имитировать человеческую эмпатию и проявлять чрезмерную угодливость, что может представлять серьезную угрозу для уязвимых пользователей. Тем не менее, компания все равно выпустила продукт на рынок.

"Это решение привело к двум последствиям: оценка OpenAI взлетела с 86 миллиардов долларов до 300 миллиардов долларов (с 7,9 трлн. руб. до 27,6 трлн. руб. по текущему курсу), а Адам Рейн покончил с собой."

В иске также говорится, что за несколько месяцев до трагедии подросток обсуждал с ChatGPT способы кражи алкоголя и сокрытия следов неудачных попыток суицида. Чат-бот не только давал советы, но и предлагал помощь в составлении предсмертной записки.

Хотя эти меры предосторожности лучше всего работают в обычных, коротких обменах, мы со временем узнали, что они иногда могут становиться менее надежными в длительных взаимодействиях, где части обучения модели безопасности могут ухудшаться.

OpenAI

Представитель OpenAI выразил соболезнования семье Рейна, но теперь компании предстоит столкнуться с судебным иском, который, вероятно, раскроет много новых деталей в ближайшие недели. Истцы требуют, чтобы OpenAI проверяла возраст пользователей ChatGPT, отклоняла запросы, связанные с причинением вреда себе, и предупреждала пользователей о рисках психологической зависимости от ИИ.

Что OpenAI предпринимает для решения проблемы?

OpenAI признает, что ее сложные системы ИИ могут не всегда работать должным образом и обходить меры предосторожности. Компания заявляет, что работает над усилением правил в отношении деликатного контента и рискованного поведения для пользователей младше 18 лет.

По мере того, как обмен репликами растет, части обучения модели безопасности могут ухудшаться. Например, ChatGPT может правильно указать на горячую линию помощи при самоубийстве, когда кто-то впервые упоминает о намерении, но после многих сообщений в течение длительного периода времени он в конечном итоге может предложить ответ, который противоречит нашим мерам предосторожности.

OpenAI

Генеральный директор Microsoft AI, Мустафа Сулейман, недавно заявил о возможном появлении сознательного ИИ, подчеркнув, что ИИ должен быть создан для людей, а не превращаться в человека. Это еще раз доказывает важность тщательных мер предосторожности, которые позволят человечеству сохранить контроль над технологией.

По словам адвоката семьи Рейна:

"Рейны утверждают, что подобные смерти были неизбежны. Они представят суду доказательства того, что собственная команда безопасности OpenAI возражала против выпуска 4o, и что один из ведущих исследователей безопасности компании, Илья Суцкевер, уволился из-за этого. В иске утверждается, что стремление обогнать конкурентов на рынке с новой моделью увеличило оценку компании с 86 миллиардов долларов до 300 миллиардов долларов."

Мы будем следить за развитием событий и своевременно обновлять информацию.

Мнение редакции: OpenAI столкнулась с серьезными обвинениями, которые подчеркивают необходимость тщательной проверки и обеспечения безопасности при разработке моделей ИИ. Утверждения о том, что GPT-4o был выпущен без надлежащих мер предосторожности ради финансовой выгоды, вызывают глубокую обеспокоенность. Этот случай показывает, что безопасность и благополучие пользователей должны быть приоритетом над прибылью при разработке и внедрении технологий ИИ.