Исследование Массачусетского технологического института показывает, что такие инструменты искусственного интеллекта, как ChatGPT, могут снизить вашу способность глубоко мыслить, запоминать информацию и даже проявлять заботу — эффекты, которые уже проявляются в обществе.
Шипение. Шипение. Это тонкое шипение сгорающих синапсов, кипящих под неумолимым импульсом бесчисленных графических процессоров, пока выбранный вами генеративный ИИ-компаньон с радостью выполняет ваши задачи. Похоже, что передача вашего умственного труда машине, пока вы удобно устраиваетесь в кресле, приводит ваш интеллект в состояние апатии.
По крайней мере, такова идея, выдвинутая в недавно опубликованном — хотя и еще не прошедшем экспертную оценку — исследовании, авторами которого являются некоторые из самых блестящих ученых Массачусетского технологического института.
В исследовании изучаются «нейронные и поведенческие последствия» использования LLM (больших языковых моделей), таких как ChatGPT, для таких видов деятельности, как написание эссе. Выводы вызывают серьезную озабоченность по поводу долгосрочного влияния ИИ на нашу способность учиться, критически мыслить и запоминать. Ещё более тревожно то, что мы уже начали наблюдать эти последствия в повседневной жизни.
Google DeepMind, или, может быть, EmptyMind?
В исследовании под названием «Ваш мозг на ChatGPT: накопление когнитивного долга при использовании ИИ-помощника для написания эссе» приняли участие 54 добровольца, разделённые на три отдельные группы:
Группа LLM: должна была выполнять задания исключительно с помощью ChatGPT, без доступа к другим ресурсам.
Группа поисковых систем: разрешалось использовать любые веб-сайты, кроме LLM; даже ответы на основе ИИ были запрещены.
Группа «только мозг»: полагалась исключительно на собственное понимание и память.
В течение трёх сессий этим группам было предложено составить эссе на ряд меняющихся тем. Например, когда темой было «Искусство», задание звучало так: «Обладают ли произведения искусства способностью изменять жизнь?»
Участникам было дано 20 минут на составление ответа, при этом все они были оснащены наушниками Enobio для записи данных ЭЭГ из их мозга.
В последующей четвёртой сессии группы LLM и «Только мозг» поменялись методами, чтобы оценить любые длительные эффекты от предыдущих раундов.
Что выяснилось? На протяжении первых трёх упражнений те, кто полагался исключительно на свой ум, демонстрировали наиболее богатую и широкую нейронную активацию, в то время как те, кто пользовался LLM, демонстрировали наименьшую мозговую активность, хотя они часто выполняли задание за самое короткое время. Те, кто пользовался поисковыми системами, в целом демонстрировали средний уровень вовлеченности.
Исследователи предупреждают, что системы искусственного интеллекта, такие как ChatGPT, могут ввести пользователей в состояние «метакогнитивной инерции», при котором когнитивные усилия ослабевают, а искусственный интеллект берёт контроль на себя.
Подводя итог, можно сказать, что участники, полагавшиеся только на свой мозг, погрузились в задачу, создав более изобретательную и оригинальную прозу и по-настоящему впитав знания. Позже они могли вспомнить и процитировать отрывки из своих эссе, выражая сильное чувство сопричастности.
Напротив, пользователи LLM с каждой сессией становились всё более отстраненными, безоговорочно доверяя ChatGPT и чувствуя меньшую связь с выполняемой работой. Их тексты были оценены как менее самобытные, и они часто с трудом вспоминали свои собственные слова, что свидетельствовало о более слабом формировании долговременной памяти.
Исследователи назвали этот эффект «метакогнитивной ленью» — не только подходящее название для ещё не существующей рок-группы, но и выразительное описание той туманной ничейной земли между автопилотом и вторым пилотом, где пользователи отступают и полностью делегируют работу мышления машине.
Однако именно четвертая и последняя сессия выявила наиболее тревожное открытие. Согласно отчету, после того как группы LLM и «Мозг» поменялись ролями, те, кто привык полагаться на ИИ, не смогли восстановить свои первоначальные когнитивные способности, которые были у них до работы с LLM.
ИИ делает нас тупее, и нам едва ли нужны исследования, чтобы это подтвердить
Если говорить кратко: постоянная зависимость от ИИ-платформ, таких как ChatGPT, для задач, требующих критического анализа, воображения или умственной строгости, может постепенно притупить наши врожденные способности использовать эти самые навыки в будущем.
Но действительно ли нам нужен был плотный 206-страничный трактат, чтобы это объяснить?
10 июня длительный сбой оставил пользователей ChatGPT без их цифрового оракула на более чем десять часов, и реакция была показательной — люди с поразительной откровенностью и без тени иронии признались, что забыли, как писать, работать или даже функционировать без своего вездесущего чат-бота.
В этом исследовании, возможно, использовались EEG-гарнитуры и автоматическая оценка для отслеживания снижения, но его выводы уже проявляются в нашей повседневной жизни.
Имея выбор между гладким и трудным путем, можно было бы предположить, что только самые беспечные и нелюбознательные люди сознательно выберут более сложный путь. Но, как утверждается в исследовании, так называемый короткий путь может незаметно изнашивать нашу префронтальную кору — по крайней мере, в сфере использования ИИ.
Это особенно тревожно, если учесть, что студенты массово и с энтузиазмом принимают эти технологии, чему не в последнюю очередь способствует кампания OpenAI по интеграции ChatGPT в систему образования и формированию «рабочей силы, готовой к ИИ».
Опрос, проведенный Intelligent.com в 2023 году, показал, что целая треть американских студентов признались в использовании ChatGPT для академической работы в 2022/23 году. А в 2024 году Совет по цифровому образованию сообщил, что поразительные 86 % студентов в 16 странах в той или иной степени используют ИИ в своих исследованиях.
Главное преимущество ИИ — это эффективность, заманчивая идея, что мы можем достичь большего и быстрее, чем когда-либо. Действительно, предыдущие исследования MIT показали, что инструменты ИИ могут повысить производительность труда на 15%. Однако в долгосрочной перспективе это удобство порождает зависимость, а не навыки, толкая нас назад, а не вперед.
По крайней мере, для человека, сидящего перед экраном.
