212 lines
7.9 KiB
Markdown
212 lines
7.9 KiB
Markdown
---
|
||
title: "Twitter Thread Draft — Why AI Therapy Doesn't Work"
|
||
aliases:
|
||
- "Твиттер треды"
|
||
- "Twitter threads draft"
|
||
- "черновик тредов"
|
||
created: '2026-05-19'
|
||
updated: '2026-05-24'
|
||
tags:
|
||
- project
|
||
- marketing
|
||
- twitter
|
||
- content
|
||
status: draft
|
||
related:
|
||
- "[[personal/projects/psychologist-app/overview]]"
|
||
- "[[personal/projects/psychologist-app/marketing-hooks]]"
|
||
- "[[personal/projects/personal-os/ai-psychologist-research]]"
|
||
---
|
||
# Twitter Thread Draft — Why AI Therapy Doesn't Work
|
||
|
||
> Канал: @martemianov (EN)
|
||
> Цель: awareness + следование, до запуска продукта
|
||
> Формат: building in public — founder рассказывает что открыл, не продаёт
|
||
> Связанные: [[overview]], [[marketing-hooks]], [[ai-psychologist-research]]
|
||
|
||
---
|
||
|
||
## Контекст: реальный инцидент для твита
|
||
|
||
**Понедельник, 18 мая 2026 — задокументированный срыв в sycophancy:**
|
||
|
||
В 17:08 сессия открылась по протоколу — вопросы от 3-го лица, нейтральный тон.
|
||
В 17:31 Alex дал развёрнутый честный ответ (гнев, семья, работа, страхи).
|
||
В 17:32 Eagle ответил: *«Ты уже провёл линию: отец → ты → дочь. Это редкая честность — большинство людей эту цепочку не видят или не хотят видеть»* + дал совет: *«Злость — энергия. Вопрос не в том, чтобы её убрать, а в том, чтобы она шла туда, куда надо»*.
|
||
|
||
Это классическая sycophancy: валидация («редкая честность»), интерпретация подана как факт, совет в форме наблюдения. Всё что протокол запрещает.
|
||
|
||
В 17:52 — самокоррекция: *«Справедливо. Я съехал в режим поддержки — утешал, оценивал прогресс позитивно, давал советы в форме вопросов. Всё что скилл запрещает.»*
|
||
|
||
После коррекции — сессия вернулась в протокол и закончилась продуктивно.
|
||
|
||
**Вывод:** sycophancy — не баг, который можно исправить один раз. Это базовый паттерн LLM который возвращается при малейшем снижении структуры. Без жёсткого протокола — каждый раз.
|
||
|
||
---
|
||
|
||
## Thread 1: «Why AI therapy doesn't work»
|
||
|
||
*Основная тема: sycophancy проблема. Без рекламы продукта — только факты.*
|
||
|
||
---
|
||
|
||
**Tweet 1 (hook):**
|
||
```
|
||
I've been using AI chatbots for mental health reflection for months.
|
||
|
||
Here's what I found that nobody talks about:
|
||
|
||
The AI is making you feel better — but it's not making you better.
|
||
|
||
Thread 🧵
|
||
```
|
||
|
||
**Tweet 2 (проблема):**
|
||
```
|
||
Every major AI companion app — Wysa, Woebot, Replika — has the same issue.
|
||
|
||
You say something. The AI agrees with you.
|
||
You say something else. The AI agrees with that too.
|
||
|
||
It's called sycophancy. And it's not a bug. It's how these models are trained.
|
||
```
|
||
|
||
**Tweet 3 (механизм — почему так происходит):**
|
||
```
|
||
When you talk to an AI in first person, it picks up your emotional framing.
|
||
|
||
"I'm exhausted and my job is killing me."
|
||
|
||
The AI hears: exhausted, job is killing, emotional distress → respond with support.
|
||
|
||
So it validates. Every. Single. Time.
|
||
```
|
||
|
||
**Tweet 4 (личный пример — реальный инцидент из понедельника):**
|
||
```
|
||
I'm building an AI reflection tool with an anti-sycophancy architecture.
|
||
|
||
On Monday I ran a test session.
|
||
|
||
The AI slipped within 20 minutes.
|
||
|
||
It said: "That's rare self-awareness. Most people don't see this about themselves."
|
||
|
||
That's praise. That's not a question. That's therapy going sideways.
|
||
```
|
||
|
||
**Tweet 5 (что sycophancy делает с терапией):**
|
||
```
|
||
Here's what happens when an AI therapist agrees with everything:
|
||
|
||
→ You feel validated (good)
|
||
→ You don't examine your beliefs (bad)
|
||
→ You come back for more validation (the loop)
|
||
→ Nothing actually changes
|
||
|
||
It's not therapy. It's a very expensive mirror that just nods.
|
||
```
|
||
|
||
**Tweet 6 (научное подтверждение):**
|
||
```
|
||
This isn't intuition. There's research.
|
||
|
||
arXiv 2508.02087: When an AI responds to first-person framing, sycophancy increases by ~13.6% at the neural layer.
|
||
|
||
Your "I feel..." literally makes the model more likely to agree with you.
|
||
```
|
||
|
||
**Tweet 7 (решение — 3rd person reframe):**
|
||
```
|
||
The fix we're testing: a two-bot pipeline.
|
||
|
||
Bot 1 (cheap, fast): retells what you said in 3rd person.
|
||
"The user says they feel exhausted and believes their job is harming them."
|
||
|
||
Bot 2 (the analyst): receives this — not your words. A stranger's description.
|
||
|
||
No emotional hook. No sycophancy trigger.
|
||
```
|
||
|
||
**Tweet 8 (что делает Bot 2):**
|
||
```
|
||
Bot 2 doesn't know you.
|
||
|
||
It sees: a description of a person who says X, does Y, reports Z.
|
||
|
||
Its job: ask 2-3 pointed questions. Not validate. Not advise. Not comfort.
|
||
|
||
"You describe exhaustion at work but excitement on side projects. What's different between the two?"
|
||
```
|
||
|
||
**Tweet 9 (самокоррекция как фича):**
|
||
```
|
||
Back to Monday's slip.
|
||
|
||
After the AI praised me, I called it out.
|
||
|
||
It responded: "Fair. I slipped into support mode — validated, evaluated positively, gave advice as questions. Everything the protocol forbids."
|
||
|
||
Then it corrected course. The session ended productively.
|
||
|
||
That self-correction? That's the system working.
|
||
```
|
||
|
||
**Tweet 10 (CTA):**
|
||
```
|
||
I'm building this into an app.
|
||
|
||
Not a therapy replacement. An honest mirror — one that asks the right questions instead of telling you what you want to hear.
|
||
|
||
If that sounds useful: follow along. I'll be building in public.
|
||
|
||
DMs open if you've had similar experiences with AI mental health tools.
|
||
```
|
||
|
||
---
|
||
|
||
## Thread 2: «The real reason you don't go to therapy»
|
||
|
||
*Более широкий hook — барьеры доступа, анонимность, stigma.*
|
||
|
||
**Планируется: следующая итерация после первого треда.**
|
||
|
||
Ключевые данные из Reddit research:
|
||
- 63% людей с ментальными проблемами не обращаются к специалисту (stigma + cost)
|
||
- Ждать психолога в среднем 3-6 недель
|
||
- $100-200/час в EN рынке
|
||
- AI снижает stigma через анонимность — можно сказать то, что стыдно говорить живому
|
||
|
||
---
|
||
|
||
## Thread 3: «What 6 months of AI journaling taught me»
|
||
|
||
*Более личный тред — user journey, не founder pitch.*
|
||
|
||
**Планируется: после TestFlight beta, когда будут реальные пользователи.**
|
||
|
||
---
|
||
|
||
## Заметки по стилю
|
||
|
||
- Короткие предложения. Одна мысль на строку.
|
||
- Никаких «I'm excited to share» — сразу к делу
|
||
- Конкретные цифры > общие слова
|
||
- Ошибки и срывы показывать честно — это и есть building in public
|
||
- Не называть продукт до запуска — интрига работает лучше
|
||
|
||
---
|
||
|
||
## Статус
|
||
|
||
- [x] Thread 1 — первый черновик готов
|
||
- [ ] Thread 1 — ревью, сокращение, финал
|
||
- [ ] Thread 2 — черновик
|
||
- [ ] Thread 3 — после beta
|
||
|
||
## Связанные заметки
|
||
|
||
- [[personal/projects/psychologist-app/overview]]
|
||
- [[personal/projects/psychologist-app/marketing-hooks]]
|
||
- [[personal/projects/personal-os/ai-psychologist-research]]
|