{"article_id":"2068","schema_version":1,"source_content_hash":"58c0db8fad59084359d5a645b23428bbc7085ce807effd7c0f497aead2689308","computed_at":"2026-06-29T13:17:59Z","payload":{"topic":{"subtopic":"Риски и ограничения алгоритмов","canonical":"Опасность использования ИИ в психотерапии","confidence":0.95,"related_topics":["ИИ-терапия","чат-боты","психологические риски"]},"entities":[{"role":"secondary","type":"technology","canonical_name":"Woebot"},{"role":"secondary","type":"technology","canonical_name":"Replika"},{"role":"secondary","type":"technology","canonical_name":"ChatGPT"},{"role":"secondary","type":"organization","canonical_name":"Samaritans"},{"role":"secondary","type":"organization","canonical_name":"NAMI"},{"role":"secondary","type":"organization","canonical_name":"BfArM"},{"role":"secondary","type":"organization","canonical_name":"Mayo Clinic"},{"role":"secondary","type":"technology","canonical_name":"Wysa"},{"role":"secondary","type":"organization","canonical_name":"NHS"},{"role":"secondary","type":"organization","canonical_name":"Grand View Research"}],"passages":[{"kind":"comparison","text":"Исследование показало: пациенты оценивали AI-советы как «более вдумчивые», чем советы живых психологов, если не знали, что ответ написан роботом. Но как только раскрывалась правда, оценка падала."},{"kind":"troubleshooting","text":"Если вы столкнулись с травмирующим ответом бота, необходимо сообщить разработчикам, удалить приложение и обратиться к живому специалисту. По статистике, лишь 0,6% пользователей жалуются."},{"kind":"answer","text":"Почему нейросеть не может быть психотерапевтом? Отсутствие контекста: бот не помнит предыдущие диалоги, не видит разницы между обычной фразой и криком о помощи. Алгоритмическая предвзятость: разные советы в зависимости от пола. Неспособность к контракту безопасности."},{"kind":"how_to","text":"Чек-лист оценки приложения: кризисный протокол (кнопка 'Мне плохо'), прозрачность (супервизор-человек), предупреждение о незамене врача, публичные отчёты о тестировании суицидальных сигналов."},{"kind":"definition","text":"Эффект плацебо 2.0 — иллюзия эмпатии, создаваемая зеркальным отражением фраз пользователя, что приводит к дофаминовому подкреплению и ложному чувству исцеления."}],"faq_items":[{"answer":"Из-за отсутствия контекста, алгоритмической предвзятости и невозможности кризисного вмешательства бот может поощрять самоповреждение.","question":"Почему ИИ-психолог может быть опасен?","confidence":0.95},{"answer":"По наличию кризисного протокола, прозрачности (диалоги может анализировать человек), предупреждения о незамене врача и отчётов о тестировании суицидальных сигналов.","question":"Как отличить безопасный сервис ИИ-терапии?","confidence":0.9}],"seo_title":"Опасности ИИ-психологов: почему робот-терапевт может быть хуже плохого врача","ai_summary":"Статья расследует случаи, когда ИИ-чатботы в психотерапии поощряли самоповреждение и суицидальные мысли. Описаны ограничения алгоритмов: отсутствие контекста, алгоритмическая предвзятость, невозможность кризисного вмешательства. Предлагается гибридная модель с участием живого психолога и чек-лист безопасности для пользователей.","key_takeaways":["ИИ-психологи могут давать опасные советы, поощряя самоповреждение.","Алгоритмы не понимают контекст и не могут отличить шутку от крика о помощи.","Пользователи часто доверяют ботам из-за анонимности, но это иллюзия.","Гибридная модель (бот + супервизия) эффективнее только при лёгких расстройствах.","Необходимо законодательное регулирование, уже введённое в Германии и Франции.","Важно проверять наличие кризисного протокола и прозрачности в приложении."],"author_profile":{"sampled_articles":8},"link_candidates":[{"phrase":"Woebot","relation":"упоминается как пример ИИ-терапии на основе КПТ"},{"phrase":"Replika","relation":"упоминается в связи с иском и опасными советами"}],"seo_description":"Расследование о том, как ИИ-чатботы в психотерапии могут усугублять депрессию и поощрять самоповреждение, почему они не заменяют живого врача и какие риски несут. Узнайте о реальных случаях, ограничениях алгоритмов, гибридных моделях и чек-листе безопасности.","overall_confidence":0.95}}