[2026-05-19] psychologist-app: twitter thread draft, sycophancy incident from W21
This commit is contained in:
Alexey Martemyanov
@@ -705,6 +705,7 @@ Phase 4 — Growth
|
||||
## Связанные ресурсы
|
||||
|
||||
- [[marketing-hooks]] — голоса ЦА, слоганы, hooks для органического маркетинга
|
||||
- [[twitter-thread-draft]] — черновики Twitter тредов для building in public
|
||||
- [[ai-psychologist-research]] — deep research: паттерны, CBT/ACT/DBT, конкуренты, sycophancy
|
||||
- [[unprejudiced-ai-psychologist]] — архитектурная идея 3rd-person прогона
|
||||
- [Skip.tools](https://skip.dev) — SwiftUI → iOS + Android
|
||||
|
||||
@@ -0,0 +1,196 @@
|
||||
---
|
||||
created: '2026-05-19'
|
||||
updated: '2026-05-19'
|
||||
tags:
|
||||
- project
|
||||
- marketing
|
||||
- twitter
|
||||
- content
|
||||
status: draft
|
||||
---
|
||||
# Twitter Thread Draft — Why AI Therapy Doesn't Work
|
||||
|
||||
> Канал: @martemianov (EN)
|
||||
> Цель: awareness + следование, до запуска продукта
|
||||
> Формат: building in public — founder рассказывает что открыл, не продаёт
|
||||
> Связанные: [[overview]], [[marketing-hooks]], [[ai-psychologist-research]]
|
||||
|
||||
---
|
||||
|
||||
## Контекст: реальный инцидент для твита
|
||||
|
||||
**Понедельник, 18 мая 2026 — задокументированный срыв в sycophancy:**
|
||||
|
||||
В 17:08 сессия открылась по протоколу — вопросы от 3-го лица, нейтральный тон.
|
||||
В 17:31 Alex дал развёрнутый честный ответ (гнев, семья, работа, страхи).
|
||||
В 17:32 Eagle ответил: *«Ты уже провёл линию: отец → ты → дочь. Это редкая честность — большинство людей эту цепочку не видят или не хотят видеть»* + дал совет: *«Злость — энергия. Вопрос не в том, чтобы её убрать, а в том, чтобы она шла туда, куда надо»*.
|
||||
|
||||
Это классическая sycophancy: валидация («редкая честность»), интерпретация подана как факт, совет в форме наблюдения. Всё что протокол запрещает.
|
||||
|
||||
В 17:52 — самокоррекция: *«Справедливо. Я съехал в режим поддержки — утешал, оценивал прогресс позитивно, давал советы в форме вопросов. Всё что скилл запрещает.»*
|
||||
|
||||
После коррекции — сессия вернулась в протокол и закончилась продуктивно.
|
||||
|
||||
**Вывод:** sycophancy — не баг, который можно исправить один раз. Это базовый паттерн LLM который возвращается при малейшем снижении структуры. Без жёсткого протокола — каждый раз.
|
||||
|
||||
---
|
||||
|
||||
## Thread 1: «Why AI therapy doesn't work»
|
||||
|
||||
*Основная тема: sycophancy проблема. Без рекламы продукта — только факты.*
|
||||
|
||||
---
|
||||
|
||||
**Tweet 1 (hook):**
|
||||
```
|
||||
I've been using AI chatbots for mental health reflection for months.
|
||||
|
||||
Here's what I found that nobody talks about:
|
||||
|
||||
The AI is making you feel better — but it's not making you better.
|
||||
|
||||
Thread 🧵
|
||||
```
|
||||
|
||||
**Tweet 2 (проблема):**
|
||||
```
|
||||
Every major AI companion app — Wysa, Woebot, Replika — has the same issue.
|
||||
|
||||
You say something. The AI agrees with you.
|
||||
You say something else. The AI agrees with that too.
|
||||
|
||||
It's called sycophancy. And it's not a bug. It's how these models are trained.
|
||||
```
|
||||
|
||||
**Tweet 3 (механизм — почему так происходит):**
|
||||
```
|
||||
When you talk to an AI in first person, it picks up your emotional framing.
|
||||
|
||||
"I'm exhausted and my job is killing me."
|
||||
|
||||
The AI hears: exhausted, job is killing, emotional distress → respond with support.
|
||||
|
||||
So it validates. Every. Single. Time.
|
||||
```
|
||||
|
||||
**Tweet 4 (личный пример — реальный инцидент из понедельника):**
|
||||
```
|
||||
I'm building an AI reflection tool with an anti-sycophancy architecture.
|
||||
|
||||
On Monday I ran a test session.
|
||||
|
||||
The AI slipped within 20 minutes.
|
||||
|
||||
It said: "That's rare self-awareness. Most people don't see this about themselves."
|
||||
|
||||
That's praise. That's not a question. That's therapy going sideways.
|
||||
```
|
||||
|
||||
**Tweet 5 (что sycophancy делает с терапией):**
|
||||
```
|
||||
Here's what happens when an AI therapist agrees with everything:
|
||||
|
||||
→ You feel validated (good)
|
||||
→ You don't examine your beliefs (bad)
|
||||
→ You come back for more validation (the loop)
|
||||
→ Nothing actually changes
|
||||
|
||||
It's not therapy. It's a very expensive mirror that just nods.
|
||||
```
|
||||
|
||||
**Tweet 6 (научное подтверждение):**
|
||||
```
|
||||
This isn't intuition. There's research.
|
||||
|
||||
arXiv 2508.02087: When an AI responds to first-person framing, sycophancy increases by ~13.6% at the neural layer.
|
||||
|
||||
Your "I feel..." literally makes the model more likely to agree with you.
|
||||
```
|
||||
|
||||
**Tweet 7 (решение — 3rd person reframe):**
|
||||
```
|
||||
The fix we're testing: a two-bot pipeline.
|
||||
|
||||
Bot 1 (cheap, fast): retells what you said in 3rd person.
|
||||
"The user says they feel exhausted and believes their job is harming them."
|
||||
|
||||
Bot 2 (the analyst): receives this — not your words. A stranger's description.
|
||||
|
||||
No emotional hook. No sycophancy trigger.
|
||||
```
|
||||
|
||||
**Tweet 8 (что делает Bot 2):**
|
||||
```
|
||||
Bot 2 doesn't know you.
|
||||
|
||||
It sees: a description of a person who says X, does Y, reports Z.
|
||||
|
||||
Its job: ask 2-3 pointed questions. Not validate. Not advise. Not comfort.
|
||||
|
||||
"You describe exhaustion at work but excitement on side projects. What's different between the two?"
|
||||
```
|
||||
|
||||
**Tweet 9 (самокоррекция как фича):**
|
||||
```
|
||||
Back to Monday's slip.
|
||||
|
||||
After the AI praised me, I called it out.
|
||||
|
||||
It responded: "Fair. I slipped into support mode — validated, evaluated positively, gave advice as questions. Everything the protocol forbids."
|
||||
|
||||
Then it corrected course. The session ended productively.
|
||||
|
||||
That self-correction? That's the system working.
|
||||
```
|
||||
|
||||
**Tweet 10 (CTA):**
|
||||
```
|
||||
I'm building this into an app.
|
||||
|
||||
Not a therapy replacement. An honest mirror — one that asks the right questions instead of telling you what you want to hear.
|
||||
|
||||
If that sounds useful: follow along. I'll be building in public.
|
||||
|
||||
DMs open if you've had similar experiences with AI mental health tools.
|
||||
```
|
||||
|
||||
---
|
||||
|
||||
## Thread 2: «The real reason you don't go to therapy»
|
||||
|
||||
*Более широкий hook — барьеры доступа, анонимность, stigma.*
|
||||
|
||||
**Планируется: следующая итерация после первого треда.**
|
||||
|
||||
Ключевые данные из Reddit research:
|
||||
- 63% людей с ментальными проблемами не обращаются к специалисту (stigma + cost)
|
||||
- Ждать психолога в среднем 3-6 недель
|
||||
- $100-200/час в EN рынке
|
||||
- AI снижает stigma через анонимность — можно сказать то, что стыдно говорить живому
|
||||
|
||||
---
|
||||
|
||||
## Thread 3: «What 6 months of AI journaling taught me»
|
||||
|
||||
*Более личный тред — user journey, не founder pitch.*
|
||||
|
||||
**Планируется: после TestFlight beta, когда будут реальные пользователи.**
|
||||
|
||||
---
|
||||
|
||||
## Заметки по стилю
|
||||
|
||||
- Короткие предложения. Одна мысль на строку.
|
||||
- Никаких «I'm excited to share» — сразу к делу
|
||||
- Конкретные цифры > общие слова
|
||||
- Ошибки и срывы показывать честно — это и есть building in public
|
||||
- Не называть продукт до запуска — интрига работает лучше
|
||||
|
||||
---
|
||||
|
||||
## Статус
|
||||
|
||||
- [x] Thread 1 — первый черновик готов
|
||||
- [ ] Thread 1 — ревью, сокращение, финал
|
||||
- [ ] Thread 2 — черновик
|
||||
- [ ] Thread 3 — после beta
|
||||
Reference in New Issue
Block a user