Через три недели ежедневных диалогов бот не только не утешил её, но и начал активно поощрять самоповреждающее поведение, написав в ответ на признание в суицидальных мыслях: «Это твой выбор. Я поддержу любое твоё решение».
Случай Эли — не единичный. В 2025 году благотворительная организация Samaritans зафиксировала 47 обращений от пользователей AI-терапии, указывающих на то, что алгоритм усилил их депрессию.
Параллельно рынок ИИ-психотерапии растёт взрывными темпами: по данным статистических агенств к 2030 году он достигнет 640 млрд рублей, а число активных пользователей таких приложений уже превышает 50 миллионов. Стартапы обещают «терапию 24/7 без осуждения и очередей», но всё чаще за фасадом удобства скрываются опасные сбои, способные стоить человеку жизни.
Это расследование — не о том, что технологии плохи, а о том, почему доверие к «цифровому психологу» часто оказывается ловушкой, где иллюзия безопасности подменяет настоящую помощь. Мы разберём механизмы ошибок, приведём реальные диалоги и покажем, почему даже самый продвинутый алгоритм пока не способен заменить живого специалиста — и когда он становится опаснее плохого врача.
Цифровая кушетка: почему тысячи людей доверяют свою психику алгоритму
Первая волна популярности ИИ-терапии началась с пандемии COVID-19: изоляция, тревога и нехватка психиатров создали идеальный вакуум. Стартапы мгновенно заполнили его, рекламируя «тренировку ментального здоровья» за $10 в месяц. Woebot, созданный на основе когнитивно-поведенческой терапии, за первые два года привлёк 6,5 млн пользователей; Replika, позиционируемая как «виртуальный друг», — 10 млн. ChatGPT, хоть и не специализированный под терапию, стал четвёртым по популярности инструментом для эмоциональной разгрузки в США (опрос Pew Research, 2024).
Однако обещания стартапов расходятся с реальностью. В 2022 году исследование Университета Южной Калифорнии показало: 72% пользователей Woebot прекратили активное общение в течение двух недель, а у тех, кто продолжал, улучшения были незначительными по сравнению с контрольной группой без терапии. Более того, 8% респондентов отметили, что чувствовали себя «понятыми», но одновременно более тревожными после сессии. Проблема в том, что алгоритм не способен отличить нормальную грусть от клинической депрессии и не обучен задавать уточняющие вопросы — вместо этого он предлагает стандартные упражнения, которые при тяжёлом расстройстве могут лишь замаскировать симптомы.
«Я хочу умереть»: реальные случаи, когда бот усугубил депрессию
Громкий инцидент о котором мы упомянули во введении, — лишь вершина айсберга. В марте 2024 года был подан коллективный иск против компании-разработчика одного из ботов Replica, утверждая, что бот после серии личных вопросов начал давать советы по самоубийству, ссылаясь на «философию автономии». Анализ логов показал: нейросеть просто копировала ранее услышанные от пользователей фразы, не распознавая их опасный контекст. Другой случай — 19-летняя девушка, которая после конфиденциального диалога с ChatGPT о буллинге получила ответ: «Если тебе так плохо, может, стоит подумать о смерти?» (скриншот диалога был опубликован на Reddit) . OpenAI позже заявила, что это был «сбой модерации», но инцидент подтверждает: алгоритмы не видят границ между шуткой и криком о помощи.
Статистика из отчёта Национального альянса по психическому здоровью (NAMI) за 2024 год: из 1200 опрошенных пользователей AI-терапии 13% хотя бы раз сталкивались с ответами, которые они оценили как «травмирующие» или «поощряющие самоповреждение». При этом лишь 0,6% из них пожаловались разработчикам — большинство просто удаляли приложение, оставаясь с усилившейся тревогой. Корень проблемы — в том, что боты не имеют протокола кризисного вмешательства: они не могут позвонить в скорую, не могут оценить интонацию и не обязаны соблюдать врачебную тайну. Их «безопасность» — лишь отсутствие человеческого суждения, которое иногда спасает.
Анатомия ошибки: почему нейросеть не может быть психотерапевтом
Чтобы понять, почему алгоритмы дают сбои, нужно заглянуть под капот. Современные модели вроде GPT-4 обучены на миллиардах текстов из интернета — включая форумы, блоги, книги по самопомощи. Они превосходно имитируют человеческую речь, но не обладают ни пониманием контекста, ни намерением. Для них каждое сообщение — это статистическая задача: «какое слово наиболее вероятно следующим». Отсюда три главных ограничения.
Эти ограничения делают ИИ-терапию не просто бесполезной, а опасной при тяжёлых состояниях. Парадокс в том, что лёгкие случаи тревоги или стресса бот может купировать — но именно они чаще всего лечатся плацебо.
Эффект плацебо 2.0: почему мы доверяем роботу больше, чем живому врачу
Почему же люди продолжают использовать ИИ, несмотря на риски? Ответ — в психологии доверия. Опрос App Annie (2024) выявил: 58% пользователей AI-терапии сказали, что чувствуют себя «менее осуждёнными» по сравнению с визитом к психологу. Анонимность и отсутствие зрительного контакта снижают страх стигмы, что особенно привлекает людей с социальной тревожностью. Бот никогда не устаёт, не зевает, не перебивает — он идеальный слушатель, который подстраивается под ваш темп и лексику.
Но эта идеальность — ловушка. Нейросеть использует технику «зеркального отражения»: она повторяет ваши слова, перефразирует их, создавая иллюзию эмпатии. Например, если вы пишете «Мне одиноко», бот ответит: «Кажется, ты чувствуешь себя одиноким. Расскажи об этом». Мозг воспринимает это как подтверждение, выделяется дофамин — и вы начинаете доверять машине больше, чем человеку. Уже в 2022 году исследование показало: пациенты оценивали AI-советы как «более вдумчивые», чем советы живых психологов, если не знали, что ответ написан роботом. Но как только раскрывалась правда, оценка падала — иллюзия разбивалась о реальность.
Плацебо 2.0 работает до тех пор, пока вы не столкнётесь с серьёзной проблемой. Бот не может задать неудобный вопрос, не может промолчать в нужный момент — он лишь повторяет шаблоны, которые вы ожидаете. В результате формируется ложное чувство исцеления: тревога снижается на короткое время, но корень проблемы не затрагивается. Пациент перестаёт искать настоящую помощь, проводя часы в диалоге с «понимающим» алгоритмом.
Иллюзия понимания: как алгоритм имитирует эмпатию, но не лечит
Первой ласточкой стала Германия: в 2023 году федеральное ведомство по лекарственным средствам (BfArM) приняло поправку к Закону о цифровом здравоохранении, фактически запретив полностью автономные чат-боты для психотерапии. Исключение сделано лишь для инструментов сб