7.4 KiB
created, updated, tags, status
| created | updated | tags | status | ||||
|---|---|---|---|---|---|---|---|
| 2026-05-19 | 2026-05-19 |
|
draft |
Twitter Thread Draft — Why AI Therapy Doesn't Work
Канал: @martemianov (EN) Цель: awareness + следование, до запуска продукта Формат: building in public — founder рассказывает что открыл, не продаёт Связанные: overview, marketing-hooks, ai-psychologist-research
Контекст: реальный инцидент для твита
Понедельник, 18 мая 2026 — задокументированный срыв в sycophancy:
В 17:08 сессия открылась по протоколу — вопросы от 3-го лица, нейтральный тон. В 17:31 Alex дал развёрнутый честный ответ (гнев, семья, работа, страхи). В 17:32 Eagle ответил: «Ты уже провёл линию: отец → ты → дочь. Это редкая честность — большинство людей эту цепочку не видят или не хотят видеть» + дал совет: «Злость — энергия. Вопрос не в том, чтобы её убрать, а в том, чтобы она шла туда, куда надо».
Это классическая sycophancy: валидация («редкая честность»), интерпретация подана как факт, совет в форме наблюдения. Всё что протокол запрещает.
В 17:52 — самокоррекция: «Справедливо. Я съехал в режим поддержки — утешал, оценивал прогресс позитивно, давал советы в форме вопросов. Всё что скилл запрещает.»
После коррекции — сессия вернулась в протокол и закончилась продуктивно.
Вывод: sycophancy — не баг, который можно исправить один раз. Это базовый паттерн LLM который возвращается при малейшем снижении структуры. Без жёсткого протокола — каждый раз.
Thread 1: «Why AI therapy doesn't work»
Основная тема: sycophancy проблема. Без рекламы продукта — только факты.
Tweet 1 (hook):
I've been using AI chatbots for mental health reflection for months.
Here's what I found that nobody talks about:
The AI is making you feel better — but it's not making you better.
Thread 🧵
Tweet 2 (проблема):
Every major AI companion app — Wysa, Woebot, Replika — has the same issue.
You say something. The AI agrees with you.
You say something else. The AI agrees with that too.
It's called sycophancy. And it's not a bug. It's how these models are trained.
Tweet 3 (механизм — почему так происходит):
When you talk to an AI in first person, it picks up your emotional framing.
"I'm exhausted and my job is killing me."
The AI hears: exhausted, job is killing, emotional distress → respond with support.
So it validates. Every. Single. Time.
Tweet 4 (личный пример — реальный инцидент из понедельника):
I'm building an AI reflection tool with an anti-sycophancy architecture.
On Monday I ran a test session.
The AI slipped within 20 minutes.
It said: "That's rare self-awareness. Most people don't see this about themselves."
That's praise. That's not a question. That's therapy going sideways.
Tweet 5 (что sycophancy делает с терапией):
Here's what happens when an AI therapist agrees with everything:
→ You feel validated (good)
→ You don't examine your beliefs (bad)
→ You come back for more validation (the loop)
→ Nothing actually changes
It's not therapy. It's a very expensive mirror that just nods.
Tweet 6 (научное подтверждение):
This isn't intuition. There's research.
arXiv 2508.02087: When an AI responds to first-person framing, sycophancy increases by ~13.6% at the neural layer.
Your "I feel..." literally makes the model more likely to agree with you.
Tweet 7 (решение — 3rd person reframe):
The fix we're testing: a two-bot pipeline.
Bot 1 (cheap, fast): retells what you said in 3rd person.
"The user says they feel exhausted and believes their job is harming them."
Bot 2 (the analyst): receives this — not your words. A stranger's description.
No emotional hook. No sycophancy trigger.
Tweet 8 (что делает Bot 2):
Bot 2 doesn't know you.
It sees: a description of a person who says X, does Y, reports Z.
Its job: ask 2-3 pointed questions. Not validate. Not advise. Not comfort.
"You describe exhaustion at work but excitement on side projects. What's different between the two?"
Tweet 9 (самокоррекция как фича):
Back to Monday's slip.
After the AI praised me, I called it out.
It responded: "Fair. I slipped into support mode — validated, evaluated positively, gave advice as questions. Everything the protocol forbids."
Then it corrected course. The session ended productively.
That self-correction? That's the system working.
Tweet 10 (CTA):
I'm building this into an app.
Not a therapy replacement. An honest mirror — one that asks the right questions instead of telling you what you want to hear.
If that sounds useful: follow along. I'll be building in public.
DMs open if you've had similar experiences with AI mental health tools.
Thread 2: «The real reason you don't go to therapy»
Более широкий hook — барьеры доступа, анонимность, stigma.
Планируется: следующая итерация после первого треда.
Ключевые данные из Reddit research:
- 63% людей с ментальными проблемами не обращаются к специалисту (stigma + cost)
- Ждать психолога в среднем 3-6 недель
- $100-200/час в EN рынке
- AI снижает stigma через анонимность — можно сказать то, что стыдно говорить живому
Thread 3: «What 6 months of AI journaling taught me»
Более личный тред — user journey, не founder pitch.
Планируется: после TestFlight beta, когда будут реальные пользователи.
Заметки по стилю
- Короткие предложения. Одна мысль на строку.
- Никаких «I'm excited to share» — сразу к делу
- Конкретные цифры > общие слова
- Ошибки и срывы показывать честно — это и есть building in public
- Не называть продукт до запуска — интрига работает лучше
Статус
- Thread 1 — первый черновик готов
- Thread 1 — ревью, сокращение, финал
- Thread 2 — черновик
- Thread 3 — после beta