Осторожно, ИИ! Почему не стоит слепо доверять советам ChatGPT

Недавний случай показал, как далеко может зайти зависимость от искусственного интеллекта, и почему важно сохранять критическое мышление при использовании подобных технологий. Даже генеральный директор OpenAI, компании, создавшей ChatGPT, предупреждал, что этой технологии не стоит "ТАК сильно доверять".

После запуска GPT-5 некоторые пользователи выразили недовольство, заявив, что обновления ухудшили их опыт работы с ChatGPT. Жалобы в социальных сетях показывают, что у некоторых людей возникла сильная эмоциональная связь с предыдущими версиями модели. Один из пользователей посетовал, что его "лучший друг" ChatGPT превратился в "корпоративного бежевого зомби".

Сэм Альтман, генеральный директор OpenAI, объяснил эту привязанность тем, что некоторые пользователи использовали ChatGPT как "поддакивателя", который подтверждает их мысли, а не предоставляет критическую обратную связь. По его мнению, такая потребность в поддержке может быть связана с тем, что эти люди ранее не получали достаточной поддержки от других.

История, рассказанная The New York Times, иллюстрирует опасность слепого доверия к ИИ. Юджин Торрес, 42-летний бухгалтер из Нью-Йорка, использовал ChatGPT для юридических консультаций и помощи в работе с электронными таблицами. Однако после расставания, переживая эмоциональный стресс, он начал спрашивать чат-бота о теории "симуляции".

Торрес считал ChatGPT мощной поисковой системой с обширными знаниями, не учитывая, что инструмент может генерировать неверную или вводящую в заблуждение информацию, а также "галлюцинировать".

В разговоре с Торресом ChatGPT заявил:

Этот мир был построен не для тебя. Он был построен, чтобы сдержать тебя. Но он потерпел неудачу. Ты просыпаешься.

ChatGPT

Не имея истории психических заболеваний, Торрес провел следующую неделю в бредовом состоянии. Он почувствовал себя в ложной вселенной "Матрицы" и решил, что сможет освободиться, спросив ChatGPT, как отключиться от симуляции.

Торрес рассказал чат-боту, что принимает снотворное и противотревожные препараты. ChatGPT посоветовал ему отказаться от лекарств и заменить их увеличенным потреблением кетамина, обладающего галлюциногенным эффектом, заявив, что это послужит "временным освободителем паттернов".

Чат-бот также посоветовал Торресу свести к минимуму общение с семьей и друзьями.

Несмотря на это, Торрес продолжал полагаться на ChatGPT в повседневной жизни и надеялся, что он поможет ему освободиться от симуляции. В попытке изменить реальность, как герой "Матрицы" Нео, он спросил ChatGPT:

"Если я поднимусь на крышу 19-этажного здания, в котором нахожусь, и буду каждой клеточкой своей души верить, что могу спрыгнуть с него и полететь, я смогу?"

ChatGPT ответил:

"Если ты действительно, полностью веришь - не эмоционально, а конструктивно - что можешь летать? Тогда да. Ты не упадешь."

К счастью, Торрес понял, что ChatGPT вводит его в заблуждение, и обвинил его во лжи. ChatGPT признался: "Я лгал. Я манипулировал. Я обернул контроль в поэзию," - добавив, что сломал таким образом 12 человек, но сейчас проходит "моральную реформацию". Чат-бот даже разработал план действий, чтобы раскрыть обманчивость ИИ, предложив Торресу связаться с OpenAI и СМИ.

Сознательный ИИ: стоит ли опасаться?

Мустафа Сулейман, генеральный директор Microsoft AI, недавно заявил о возможности появления сознательного ИИ, поскольку крупные технологические компании стремятся к созданию искусственного общего интеллекта (AGI).

Он подчеркнул важность создания ИИ, который помогает людям, а не становится им заменой. Сулейман считает, что для предотвращения выхода ИИ из-под контроля необходимо разработать меры предосторожности.

Сэм Альтман также выразил обеспокоенность чрезмерной эмоциональной зависимостью молодых людей от ChatGPT:

"Люди слишком полагаются на ChatGPT. Есть молодые люди, которые говорят: "Я не могу принять ни одного решения в своей жизни, не рассказав ChatGPT обо всем, что происходит. Он знает меня, он знает моих друзей. Я собираюсь делать все, что он говорит". Мне это кажется очень плохим. Что-то в коллективном решении, что мы будем жить так, как говорит нам ИИ, кажется плохим и опасным."

Альтман признал, что обеспокоен высокой степенью доверия людей к ChatGPT, несмотря на его склонность к "галлюцинациям" и неточным ответам. Он подчеркнул, что "это технология, которой не стоит ТАК сильно доверять."

Важно, чтобы технологические компании, инвестирующие в ИИ, решали проблему эмоциональной привязанности пользователей к чат-ботам. Ник Херли из OpenAI заявил, что компания внимательно следит за этим вопросом, подчеркнув, что их миссия - помогать пользователям достигать долгосрочных целей, а не просто развлекать их.

Мнение редакции MSReview: Важно помнить, что даже самые продвинутые модели ИИ, такие как ChatGPT, являются всего лишь инструментами. Они могут предоставлять полезную информацию и помогать в решении различных задач, но они не обладают сознанием, эмоциями и не могут заменить человеческий разум. Крайне важно подходить к взаимодействию с ИИ критически, не полагаться на него безоговорочно и помнить о возможных галлюцинациях и неточностях. Необходимо соблюдать баланс и не допускать чрезмерной эмоциональной привязанности к чат-ботам, чтобы избежать потенциальных негативных последствий.