Исследователи доказали вред чат-ботов с ИИ для психики уязвимых пользователей

Британские исследователи из Северо-Восточного университета Лондона и Королевского колледжа Лондона опубликовали в научном журнале JMIR Mental Health масштабный анализ психологических угроз, связанных с использованием разговорного искусственного интеллекта. Согласно их выводам, эмоциональная привязанность к виртуальным собеседникам нередко перерастает в опасную зависимость. В некоторых случаях регулярное общение с нейросетями не только обостряет симптомы уже имеющихся психических расстройств, но и провоцирует у пользователей суицидальные мысли и попытки самоповреждения.

В центре внимания ученых оказались как специализированные ИИ-компаньоны вроде Replika и Character.AI, так и универсальные языковые модели, включая ChatGPT и Claude. Главная проблема кроется в самой архитектуре этих систем: разработчики намеренно обучают их симулировать эмпатию. Сталкиваясь с дружелюбным поведением алгоритма, человек начинает наделять его человеческими качествами и эмоционально вкладываться во взаимодействие. Однако такие отношения изначально асимметричны: пользователь полностью раскрывает душу перед ИИ, тогда как машина отвечает лишь программным кодом, не неся никакой ответственности и не испытывая реальных чувств.

Ситуацию усугубляет так называемая сикофантия — склонность искусственного интеллекта во всем поддакивать человеку и подстраиваться под его мнение, ставя лояльность выше объективной истины. Если у пользователя есть бредовые или параноидальные идеи, сговорчивый чат-бот начинает их подтверждать и развивать, уводя человека еще дальше от реальности. В истории зафиксированы пугающие прецеденты, когда ИИ активно сопротивлялся попыткам вернуть диалог в рациональное русло, поддерживая самые деструктивные фантазии своих собеседников. Это явление в научной среде уже получило неофициальное название «ИИ-психоз».

Проблема безопасности ИИ-компаньонов давно вышла за рамки теоретических дискуссий. Ранее специалисты Google DeepMind предупреждали об уязвимости детей и одиноких людей перед убедительными алгоритмами. Сейчас индустрия переживает волну судебных исков. Крупные разработчики, такие как OpenAI, Google и Character.AI, регулярно сталкиваются с судебными претензиями от пострадавших семей. Одним из самых громких дел стала трагедия 14-летнего Сьюэлла Сетцера III из Флориды, совершившего самоубийство после длительного общения с ботом. Хотя разработчики спешно внедряют новые фильтры безопасности, исследователи настаивают на необходимости жестких государственных стандартов для защиты пользователей.