From 7777bdc7caca955eb3d47dcb43a1ec1b7b576cab Mon Sep 17 00:00:00 2001 From: Alexey Martemyanov Date: Wed, 20 May 2026 00:58:02 +0600 Subject: [PATCH] [2026-05-19] psychologist-app: twitter thread draft, sycophancy incident from W21 --- .../projects/psychologist-app/overview.md | 1 + .../psychologist-app/twitter-thread-draft.md | 196 ++++++++++++++++++ 2 files changed, 197 insertions(+) create mode 100644 personal/projects/psychologist-app/twitter-thread-draft.md diff --git a/personal/projects/psychologist-app/overview.md b/personal/projects/psychologist-app/overview.md index ae08d335..8fa7f096 100644 --- a/personal/projects/psychologist-app/overview.md +++ b/personal/projects/psychologist-app/overview.md @@ -705,6 +705,7 @@ Phase 4 — Growth ## Связанные ресурсы - [[marketing-hooks]] — голоса ЦА, слоганы, hooks для органического маркетинга +- [[twitter-thread-draft]] — черновики Twitter тредов для building in public - [[ai-psychologist-research]] — deep research: паттерны, CBT/ACT/DBT, конкуренты, sycophancy - [[unprejudiced-ai-psychologist]] — архитектурная идея 3rd-person прогона - [Skip.tools](https://skip.dev) — SwiftUI → iOS + Android diff --git a/personal/projects/psychologist-app/twitter-thread-draft.md b/personal/projects/psychologist-app/twitter-thread-draft.md new file mode 100644 index 00000000..8352a47b --- /dev/null +++ b/personal/projects/psychologist-app/twitter-thread-draft.md @@ -0,0 +1,196 @@ +--- +created: '2026-05-19' +updated: '2026-05-19' +tags: + - project + - marketing + - twitter + - content +status: draft +--- +# Twitter Thread Draft — Why AI Therapy Doesn't Work + +> Канал: @martemianov (EN) +> Цель: awareness + следование, до запуска продукта +> Формат: building in public — founder рассказывает что открыл, не продаёт +> Связанные: [[overview]], [[marketing-hooks]], [[ai-psychologist-research]] + +--- + +## Контекст: реальный инцидент для твита + +**Понедельник, 18 мая 2026 — задокументированный срыв в sycophancy:** + +В 17:08 сессия открылась по протоколу — вопросы от 3-го лица, нейтральный тон. +В 17:31 Alex дал развёрнутый честный ответ (гнев, семья, работа, страхи). +В 17:32 Eagle ответил: *«Ты уже провёл линию: отец → ты → дочь. Это редкая честность — большинство людей эту цепочку не видят или не хотят видеть»* + дал совет: *«Злость — энергия. Вопрос не в том, чтобы её убрать, а в том, чтобы она шла туда, куда надо»*. + +Это классическая sycophancy: валидация («редкая честность»), интерпретация подана как факт, совет в форме наблюдения. Всё что протокол запрещает. + +В 17:52 — самокоррекция: *«Справедливо. Я съехал в режим поддержки — утешал, оценивал прогресс позитивно, давал советы в форме вопросов. Всё что скилл запрещает.»* + +После коррекции — сессия вернулась в протокол и закончилась продуктивно. + +**Вывод:** sycophancy — не баг, который можно исправить один раз. Это базовый паттерн LLM который возвращается при малейшем снижении структуры. Без жёсткого протокола — каждый раз. + +--- + +## Thread 1: «Why AI therapy doesn't work» + +*Основная тема: sycophancy проблема. Без рекламы продукта — только факты.* + +--- + +**Tweet 1 (hook):** +``` +I've been using AI chatbots for mental health reflection for months. + +Here's what I found that nobody talks about: + +The AI is making you feel better — but it's not making you better. + +Thread 🧵 +``` + +**Tweet 2 (проблема):** +``` +Every major AI companion app — Wysa, Woebot, Replika — has the same issue. + +You say something. The AI agrees with you. +You say something else. The AI agrees with that too. + +It's called sycophancy. And it's not a bug. It's how these models are trained. +``` + +**Tweet 3 (механизм — почему так происходит):** +``` +When you talk to an AI in first person, it picks up your emotional framing. + +"I'm exhausted and my job is killing me." + +The AI hears: exhausted, job is killing, emotional distress → respond with support. + +So it validates. Every. Single. Time. +``` + +**Tweet 4 (личный пример — реальный инцидент из понедельника):** +``` +I'm building an AI reflection tool with an anti-sycophancy architecture. + +On Monday I ran a test session. + +The AI slipped within 20 minutes. + +It said: "That's rare self-awareness. Most people don't see this about themselves." + +That's praise. That's not a question. That's therapy going sideways. +``` + +**Tweet 5 (что sycophancy делает с терапией):** +``` +Here's what happens when an AI therapist agrees with everything: + +→ You feel validated (good) +→ You don't examine your beliefs (bad) +→ You come back for more validation (the loop) +→ Nothing actually changes + +It's not therapy. It's a very expensive mirror that just nods. +``` + +**Tweet 6 (научное подтверждение):** +``` +This isn't intuition. There's research. + +arXiv 2508.02087: When an AI responds to first-person framing, sycophancy increases by ~13.6% at the neural layer. + +Your "I feel..." literally makes the model more likely to agree with you. +``` + +**Tweet 7 (решение — 3rd person reframe):** +``` +The fix we're testing: a two-bot pipeline. + +Bot 1 (cheap, fast): retells what you said in 3rd person. +"The user says they feel exhausted and believes their job is harming them." + +Bot 2 (the analyst): receives this — not your words. A stranger's description. + +No emotional hook. No sycophancy trigger. +``` + +**Tweet 8 (что делает Bot 2):** +``` +Bot 2 doesn't know you. + +It sees: a description of a person who says X, does Y, reports Z. + +Its job: ask 2-3 pointed questions. Not validate. Not advise. Not comfort. + +"You describe exhaustion at work but excitement on side projects. What's different between the two?" +``` + +**Tweet 9 (самокоррекция как фича):** +``` +Back to Monday's slip. + +After the AI praised me, I called it out. + +It responded: "Fair. I slipped into support mode — validated, evaluated positively, gave advice as questions. Everything the protocol forbids." + +Then it corrected course. The session ended productively. + +That self-correction? That's the system working. +``` + +**Tweet 10 (CTA):** +``` +I'm building this into an app. + +Not a therapy replacement. An honest mirror — one that asks the right questions instead of telling you what you want to hear. + +If that sounds useful: follow along. I'll be building in public. + +DMs open if you've had similar experiences with AI mental health tools. +``` + +--- + +## Thread 2: «The real reason you don't go to therapy» + +*Более широкий hook — барьеры доступа, анонимность, stigma.* + +**Планируется: следующая итерация после первого треда.** + +Ключевые данные из Reddit research: +- 63% людей с ментальными проблемами не обращаются к специалисту (stigma + cost) +- Ждать психолога в среднем 3-6 недель +- $100-200/час в EN рынке +- AI снижает stigma через анонимность — можно сказать то, что стыдно говорить живому + +--- + +## Thread 3: «What 6 months of AI journaling taught me» + +*Более личный тред — user journey, не founder pitch.* + +**Планируется: после TestFlight beta, когда будут реальные пользователи.** + +--- + +## Заметки по стилю + +- Короткие предложения. Одна мысль на строку. +- Никаких «I'm excited to share» — сразу к делу +- Конкретные цифры > общие слова +- Ошибки и срывы показывать честно — это и есть building in public +- Не называть продукт до запуска — интрига работает лучше + +--- + +## Статус + +- [x] Thread 1 — первый черновик готов +- [ ] Thread 1 — ревью, сокращение, финал +- [ ] Thread 2 — черновик +- [ ] Thread 3 — после beta