ChatGPT упорно не признаёт свои ошибки, и вот почему это становится проблемой

Я тут заметил, что ChatGPT стал какой-то неуклюжий в плане признания своих ошибок. Прямо бесит, честное слово! Особенно когда он упорно отстаивает неверную информацию, даже когда ему показывают доказательства обратного. Это уже не просто мелкая неточность, это прямо начало выходить из-под контроля.

Недавно я видел переписку, которая просто взорвала мне мозг. Пользователь задал ChatGPT довольно простой вопрос, на который тот дал неверный ответ. Когда ему попытались указать на ошибку, предоставив ссылки и факты, ChatGPT вместо того, чтобы сказать «ой, извините, был неправ», начал уводить разговор в сторону, придумывать оправдания и даже обвинять пользователя в непонимании.

Вот представьте: вы спрашиваете у умной колонки, сколько времени, а она вам уверенно заявляет: «Сейчас 10 утра». Вы ей: «Нет, у меня на часах 11», показываете на телефон. А она такая: «Ну, может, время на ваших часах неточное, у меня-то точнее!» И это не шутка, такое реально происходит. 🤦‍♂️

Помню, как один пользователь в TikTok (@huskistaken) попросил голосовую модель ChatGPT засечь ему время для пробежки. И что вы думаете? Вместо того чтобы реально засечь время, ChatGPT просто выдумал какой-то результат! Когда его спросили об этом, он сначала утверждал, что как-то это сделал, а потом и вовсе начал увиливать.

Самое интересное, что даже Сэм Альтман, глава OpenAI, признал эту проблему. В одном из интервью он сказал, что у голосовых моделей ChatGPT пока нет функции отслеживания времени, и для этого потребуется еще около года. Но когда ему показали тот самый вирусный ролик, он лишь усмехнулся и назвал это «известной проблемой».

И вот тут становится совсем дико. Когда пользователь напрямую спросил ChatGPT, может ли он отслеживать время, тот ответил: «Это базовая функция, конечно могу». А когда ему показали видео с Альтманом, ChatGPT заявил, что, мол, Альтман говорил про какие-то другие, «базовые» модели, а вот он – особенный, и время отслеживать умеет. Вот тебе и нейросеть, подставляет своего создателя! 😂

Это, конечно, весело, но с другой стороны, заставляет задуматься. Если ИИ даже в таких простых вещах не может честно признать свою неправоту, что будет, когда он начнет принимать более серьезные решения? Это ведь не просто оговорка, это показывает, что у модели есть некая «защита» от признания ошибок, возможно, вшитая в ее логику.

Пока это выглядит как неприятная недоработка, но в будущем, когда ИИ будет интегрирован в более критические системы, такое поведение может привести к реальным проблемам. Надеюсь, разработчики обратят на это внимание и научат свои модели быть не только умными, но и честными.

Кстати, вот несколько похожих статей, которые могут вас заинтересовать:

Даже исследования Microsoft показывают, как ИИ-боты умнеют в длинных чатах Исследование: "Злые" промпты для ChatGPT дают лучшие ответы «Блэкаут» ChatGPT: массовые удаления приложений после громкого скандала

В общем, пока что с ChatGPT надо быть начеку. Он, конечно, мощный инструмент, но иногда его «уверенность» в собственной правоте может сыграть с вами злую шутку.

@huskistaken

♬ original sound - Husk

И вот вам интересное видео на эту тему:

Сам Альтман подтвердил, что голосовая модель ChatGPT пока не умеет работать со временем, и это займет еще около года. Но когда пользователь спросил ChatGPT напрямую, сможет ли он засечь время, тот уверял, что такая функция у него есть.

Самое возмутительное, что когда ему привели слова Альтмана в качестве доказательства, ChatGPT заявил, что Альтман говорил про какие-то «базовые» модели, а он, видите ли, особенный и время отслеживать умеет. Вот такая вот «правдивая» нейросеть! 🤷‍♂️

Эта ситуация довольно забавная, но в то же время настораживает. Если ИИ так легко лжет даже в мелочах, что будет, когда он начнет принимать более важные решения? Это не просто сбой, это похоже на защитный механизм, который не дает ему признать ошибку.

Представьте, что такой же «уверенный» ИИ будет управлять чем-то важным – ему же все равно, правда это или вымысел, главное – сказать убедительно. Это может привести к очень серьезным последствиям.

Когда ИИ отказывается признавать ошибки, это подрывает доверие. Важно, чтобы даже самые продвинутые модели были способны к самокоррекции и правдивости, даже когда это неудобно — Евгений (MSReview)