ChatGPT делает вас глупее? Исследование MIT предполагает, что зависимость от ИИ может навредить

В мире, где искусственный интеллект (ИИ) становится все более популярным, ученые пытаются понять, как эти новые технологии влияют на нас. Предыдущие исследования показали, что чрезмерное увлечение ChatGPT и подобными инструментами может вызывать привыкание, негативно сказываться на нашем благополучии, приводить к ухудшению критического мышления и даже к одиночеству.

Новое исследование Массачусетского технологического института (MIT) еще раз подчеркивает риски, связанные с большими языковыми моделями (LLM), такими как ChatGPT. Оказывается, использование этих инструментов для написания эссе может снижать активность нашего мозга. Исследование под названием "Ваш мозг на ChatGPT: Накопление когнитивного долга при использовании ИИ-помощника для написания эссе" также показало, что люди, полагавшиеся на ИИ, хуже справлялись с написанием эссе, когда им приходилось делать это самостоятельно, без помощи ChatGPT.

В исследовании приняли участие 54 человека в возрасте от 18 до 39 лет. Их разделили на три группы: первая группа писала эссе "своим умом", вторая могла использовать обычную поисковую систему, а третья – инструменты LLM, такие как ChatGPT.

Результаты оказались интересными: у тех, кто использовал LLM, когнитивная нагрузка была на 32% меньше, чем у тех, кто пользовался традиционными инструментами. Они также испытывали меньше разочарования в процессе.

Главный вывод исследования заключается в том, что люди, использующие LLM, прикладывают меньше умственных усилий для получения информации. И хотя это может показаться очевидным, это объясняет, почему у некоторых возникает соблазн использовать ИИ для выполнения заданий.

Кроме того, участники группы, писавшей эссе самостоятельно, сообщили о большей удовлетворенности в отношении этических аспектов работы.

LLM, безусловно, упростили задачу ответов на вопросы участников по сравнению с поисковой системой. Однако это удобство достигалось за счет когнитивных издержек, уменьшая склонность пользователей критически оценивать выходные данные LLM или "мнения" (вероятностные ответы, основанные на наборах данных обучения). Это подчеркивает тревожную эволюцию эффекта "эхо-камеры": вместо того, чтобы исчезнуть, он адаптировался, чтобы формировать воздействие на пользователя посредством алгоритмически курируемого контента. То, что оценивается как "лучшее", в конечном итоге зависит от приоритетов акционеров LLM.

На первый взгляд, результаты исследования могут показаться очевидными. Написание эссе требует больше умственных усилий, чем написание того же эссе с помощью ИИ. Но наука требует доказательств и проверки гипотез. Учитывая, что государственная политика и образовательные стандарты могут быть изменены на основе влияния ChatGPT и аналогичных инструментов, важно собрать как можно больше информации.

Исследователи из MIT подчеркнули это в заключении своего исследования:

Мы считаем, что необходимы долгосрочные исследования, чтобы понять долгосрочное воздействие LLM на человеческий мозг, прежде чем LLM будут признаны чем-то, что является чисто положительным фактором для людей.

Стоит отметить, что исследование MIT еще не прошло экспертную оценку и проводилось на небольшой выборке. Тем не менее, это важный шаг в сборе информации о влиянии ИИ на наши когнитивные способности, и он требует дальнейших исследований.

Так делает ли ChatGPT людей глупее?

Исследование также изучало, как использование LLM для написания эссе влияет на производительность, когда участников просили выполнить ту же задачу самостоятельно, без помощи ИИ.

Исследователи заявили, что эта тенденция может быть связана с когнитивной разгрузкой, которую обеспечивает ИИ. Другими словами, использование таких инструментов, как ChatGPT, заставляет вас меньше думать, что в будущем может привести к снижению способностей.

Интересно, что исследователи Microsoft совместно с Университетом Карнеги-Меллона провели исследование, в котором сравнили влияние генеративного ИИ на критическое мышление с атрофией мышц.

Если данные продолжат подтверждать теорию о том, что использование моделей генеративного ИИ приводит к снижению мозговой активности и критического мышления в долгосрочной перспективе, это может иметь серьезные последствия.

Опрос, проведенный The Guardian, показал, что студенты часто используют инструменты генеративного ИИ, такие как ChatGPT, для списывания.

Если студенты и работники будут чрезмерно полагаться на ChatGPT и аналогичные инструменты, они могут стать менее способными самостоятельно выполнять определенные задачи.

Мнение редакции MSReview: Использование ИИ, безусловно, может облегчить выполнение задач, но важно помнить о потенциальных последствиях для когнитивных способностей. Не стоит полностью полагаться на эти инструменты, необходимо развивать и поддерживать собственные навыки критического мышления и решения проблем.