Когнитивные риски ИИ

Искусственный интеллект стал повседневным инструментом финтеха – крупнейшие банки внедряют его в кредитный скоринг, клиентский сервис и антифрод, а ИТ-команды – в разработку и тестирование. Однако вместе с ростом продуктивности растет и риск снижения когнитивной нагрузки на человека и, как следствие, эрозии его мыслительных навыков. Почему так происходит, рассказывает руководитель управления стратегии, исследований и аналитики Ассоциации ФинТех Марианна Данилина.

Искусственный интеллект перестал быть технологией будущего и стал повседневным инструментом как для разработчиков и аналитиков, так и для массового пользователя. Крупнейшие банки внедряют ИИ в кредитный скоринг, клиентский сервис и антифрод, ИТ-команды — в разработку и тестирование, пользователи привлекают к процессу принятия бытовых и профессиональных решений. Однако наряду с ростом продуктивности возникает пока еще не очевидный, но системный эффект, который заключается в постепенном снижении когнитивной нагрузки на человека и, как следствие, эрозии его мыслительных навыков.

Что это значит для финтеха, где именно аналитическое мышление, независимое суждение и способность принимать решения в условиях неопределенности — ключевые навыки?

Инструмент новый, проблемы старые

Ключевым следствием применения ИИ является так называемая когнитивная разгрузка (cognitive offloading), когда человек делегирует часть своих мыслительных задач внешним инструментам, снижая нагрузку на собственные память и мышление. Еще до массового распространения ИИ такой эффект наблюдался в связи с использованием поисковых систем и смартфонов. В частности, речь шла об «эффекте Google» — легкий доступ к информации через поисковые системы снижает склонность людей запоминать ее содержание.

Генеративный ИИ идет значительно дальше, позволяя пользователям полностью обойти глубокое мышление, которого традиционно требует решение задач. Если поисковик Google помогал находить информацию, то ИИ ее уже синтезирует, интерпретирует и преподносит в готовом виде без необходимости совершать серьезную когнитивную работу. В профессиональной среде это проявляется в том, что аналитики реже самостоятельно строят гипотезы, полагаясь на подсказки моделей, а разработчики снижают глубину понимания кода, используя автогенерацию. Менеджеры, в свою очередь, принимают решения, опираясь на агрегированные рекомендации ИИ без погружения в детали и точное понимание факторов.

Когнитивный долг — платежом красен

В июне 2025 года исследователи MIT Media Lab опубликовали препринт исследования, в котором с помощью электроэнцефалографии (ЭЭГ) измеряли мозговую активность пользователей языковых моделей [1]. Участников разделили на три группы: одна писала эссе с помощью ChatGPT, вторая — пользовалась лишь поисковиками, а третья работала вообще без ИТ-инструментов. ЭЭГ фиксировала нейронную активность при выполнении заданий.

Результаты показали, что по мере роста внешней поддержки снижалась способность мозга формировать новые нейронные связи. У клиентов языковых моделей она была ниже на 55% по сравнению с группой без инструментов, причем 83% из них вообще не смогли процитировать свои же тексты. Группа с ChatGPT уступала и по другим показателям, а со временем участники все чаще принимали ответы без обработки и дополнительного анализа.

Исследователи ввели понятие когнитивного долга (cognitive debt) — долгосрочных издержек передачи мышления внешним системам, включая снижение критического мышления и креативности.

Безусловно, результаты этого исследования основаны на небольшой выборке, однако его ценность в использовании ЭЭГ, дающей вполне объективные нейрофизиологические данные.

Еще один показательный пример — совместное исследование Microsoft Research и Университета Карнеги-Меллона [2], которое показало что, чем больше человек доверяет генеративному ИИ, тем ниже уровень его критического мышления, и наоборот, уверенность в собственных навыках усиливает когнитивные способности. Авторы также выявили порочный круг, когда нехватка компетенций снижает способность проверять ответы ИИ, усиливая зависимость от него и дальнейшую деградацию навыков. Результаты неутешительные. Постоянное использование генерации контента в разы снижает качество «потребления» и анализа этого контента «человеческими мозгами».

Мозг не обучается, а «тормозит»

Сегодня меняется сам характер «умственного труда» — вместо анализа специалисты все чаще занимаются «контролем ИИ и верификацией его ответов», сохраняя при этом ответственность за принятые решения. Сдвиг от «генерации собственного решения» к «верификации решения ИИ» меняет нейрокогнитивный профиль нагрузки на мозг человека. При традиционном анализе активно нагружены зоны мозга, отвечающие за построение ментальных моделей и последовательные логические операции, а при контролировании результатов от ИИ — зоны « проверки себя », обнаружения аномалий и торможения. Да, именно «торможения»! Это работа мозга не для обучения, а для «выживания».

При длительном контроле ИИ может атрофироваться зона генерации собственных решений. В итоге, если мозг постоянно работает лишь в режиме контроля, то способность к «генерации гипотез» не только снижается, она вовсе пропадает!

Швейцарские ученые [3] выявили отрицательную зависимость между частотой использования ИИ и критическим мышлением. При этом имеет значение возраст человека. В рамках эксперимента молодые участники — «зумеры» и «поколение Альфа» — демонстрировали более высокую зависимость от ИИ-инструментов и более низкие показатели критического мышления по сравнению со старшим поколением (миллениалами). Кстати, если сегодняшнее поколение специалистов, входящих в профессию, с самого начала карьеры работает в среде с доступом к ИИ-инструментам, то как они будут развиваться и какими компетенциями будут обладать через 10 лет? Вопрос риторический.

А теперь от теоретических исследований стоит перейти в практическую плоскость текущего рынка труда и профессиональных компетенций.

Эрозия профессиональных навыков

Один из наиболее потенциально опасных когнитивных эффектов ИИ-ассистентов — создание у пользователя ощущения знания там, где его реально нет. Иоан Роксин, профессор Университета Марии и Луи Пастера и специалист в области ИТ, описывает это явление как «обобщенную иллюзию знания» [4], когда ИИ-инструменты не демократизируют знание, а лишь создают его видимость.

Невзирая на кажущуюся убедительность и логичность ответов языковых моделей, их работа остается вероятностной и статистической. Модели не понимают содержания в человеческом смысле, а лишь воспроизводят наиболее статистически вероятные связи. Для финтеха это значит, что аналитик, запросивший у языковой модели анализ кредитоспособности заемщика или оценку регуляторного риска, может получить внешне безупречно структурированный ответ и при этом не обнаружить скрытой за ним фундаментальной ошибки. Чем ниже собственная экспертиза специалиста в данной области, тем выше его зависимость от ИИ и меньше вероятность корректной верификации результата.

Чрезмерная зависимость от автоматизации ведет к деквалификации профессионалов, систематически делегирующих ИИ свои задачи. Конечно, аналитические инструменты в финансовом прогнозировании и диагностические системы в медицине повышают эффективность, но в долгосрочной перспективе именно эти инструменты грозят исчезновению независимого суждения, интуиции и предметного мышления. Если выводы модели окажутся ошибочными в ситуации с высоким риском, то последствия могут быть трагическими.

Демонизация гомогенизации

Отдельного внимания заслуживает феномен когнитивной гомогенизации (cognitive homogenization), который обсуждается значительно реже, чем индивидуальные потери критического мышления. В исследовании [5] изучалось влияние ИИ на творческое письмо в контролируемом онлайн-эксперименте. Авторы обнаружили, что доступ к идеям языковой модели повышал качество и оригинальность текстов, особенно у наименее творческих участников. Однако тексты, написанные с ИИ, оказались значительно более похожи друг на друга, чем работы людей, его не использовавших. Индивидуальная креативность растет, но коллективное разнообразие идей сокращается.

Если специалисты финансовой организации используют одни и те же языковые модели для подготовки заключений и оценки рисков, их суждения начинают сливаться друг с другом. Разнообразие мнений, которое раньше служило одним из главных защитных механизмов от системных ошибок, исчезает — вместо нескольких независимых точек зрения получаются вариации одного и того же вывода от ИИ. В условиях непредсказуемости рынка и нестандартных ситуаций, когда нужна именно коллективная экспертиза, такое положение становится слабым местом.

Еще один неочевидный, но, судя по всему, долгосрочный аспект — асимметрия компетенций. ИИ увеличивает уже существующие различия в навыках, поскольку опытные специалисты используют его как инструмент усиления, а менее компетентные — как замену мышления. Это со временем может привести к структурному дефициту квалифицированных кадров.

С подобными проблемами несколько десятилетий назад столкнулась авиационная отрасль, когда стали широко применяться автопилоты и бортовые компьютеры. Пилоты, систематически использовавшие их, хорошо сохраняли моторные и сенсорные навыки (сканирование приборов, управление рычагами), однако пострадали их когнитивные навыки, необходимые для ручного пилотирования. Способность отслеживать местоположение воздушного судна без навигационного дисплея, самостоятельно рассчитывать траекторию захода на посадку, держать в голове последовательность нестандартных процедур деградировали при их систематическом делегировании автоматике. Авиационное сообщество выработало ответ на этот вызов в виде обязательных периодов ручного пилотирования и регулярных тренировок без средств автоматизации.

Не кто виноват, а что делать?

Финтех исторически строился на компетентном человеческом суждении, способности специалиста управлять неопределенностью и принимать ответственные решения, но именно эти навыки сегодня подвергаются наибольшему давлению со стороны генеративного ИИ. Поэтому стоит сформулировать несколько практических рекомендаций.

Воспринимать ИИ как инструмент для последнего, а не первого этапа. Рабочие процессы, где ИИ используется как стартовая точка, а не способ финальной верификации, создают наибольший когнитивный риск. Надо подумать о выстраивании процедур таким образом, чтобы специалист формулировал собственную гипотезу еще до обращения к ИИ и лишь затем «проверял» и обогащал ее с помощью этого инструмента.

Уделять особое внимание младшим специалистам. Стажеры и аналитики начального уровня, только формирующие профессиональные навыки, находятся в наибольшей зоне риска. Для этой группы сотрудников необходим наиболее осознанный наставнический подход к использованию ИИ-решений.

Искать баланс между эффективностью ИИ, сохранением естественного интеллекта и собственных компетенций. Сюда относятся и внедрение практик осознанного использования ИИ, и практик наставничества, и подхода «человек в контуре» (human-in-the-loop).

***

Нелепо игнорировать реальное повышение производительности, которое языковые модели сегодня привносят в финтех, но важно понимать, что когнитивная разгрузка постепенно становится частью процесса трансформации всей человеческой деятельности под влиянием цифровых технологий.

Литература

1. Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task, Lee H. — P. et al., 2025.

2. The Impact of Generative AI on Critical Thinking, Lee H. — P. et al., 2025.

3. AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking, M. Gerlich, 2025.

4. Generative AI: the risk of cognitive atrophy. I. Roxin. Polytechnique Insights. 2025.

5. Generative AI enhances individual creativity but reduces the collective diversity of novel content. A. R. Doshi, O. P. Hauser. 2024.

Источник: OSP – Экономика данных. Как это делается