From e3197994b24f03a2732619d0c7c03d6c54786112 Mon Sep 17 00:00:00 2001 From: Alexey Martemyanov Date: Tue, 16 Jun 2026 20:59:26 +0600 Subject: [PATCH] [2026-06-16] update balda-valera: context problem, owner token, diagnostics --- personal/projects/balda/balda-valera.md | 54 ++++++++++++++++- .../projects/balda/fast-rlm-integration.md | 58 +++++++++++++------ 2 files changed, 94 insertions(+), 18 deletions(-) diff --git a/personal/projects/balda/balda-valera.md b/personal/projects/balda/balda-valera.md index 88521785..52137551 100644 --- a/personal/projects/balda/balda-valera.md +++ b/personal/projects/balda/balda-valera.md @@ -75,14 +75,66 @@ DOCKER_OPTS={"max_tokens": 2048, "temperature": 0.7} При изменении `.env` всегда использовать `up -d`. +## Контекст (история сообщений) + +**Не работает** для OpenAI-совместимых провайдеров (DeepSeek, ChatGPT и т.д.). + +Причина: ADK Runner (`google.golang.org/adk`) inject'ит историю в мульти-тур только для Gemini API. Для OpenAI-compatible провайдеров (через `base_url` переопределение) ADK не inject'ит предыдущие сообщения в вызов модели — каждый turn получает только одно сообщение. + +`balda.sessions.persistent: true` — влияет на хранение balda-сессии между рестартами, но не на inject истории в API вызов. + +### Возможные решения +1. **Inject'ить историю в RunSessionTurnPayload** — перед вызовом `r.Run()` загрузить предыдущие сообщения из ADK session store и передать как мульти-контент. Патч в `zulip_handler.go` и `balda.go`. +2. **Передать историю через global_instruction** — обогащать промпт предыдущими сообщениями из balda session хранилища. +3. **Использовать Gemini API** (нативный ADK inject истории). + +## Owner token + +При старте генерируется owner token. Выводится в лог: +``` +balda owner authentication required auth_command="/start owner=" +``` + +Для авторизации через Telegram (или Zulip с /start): +``` +/start owner= +``` + +При старте с пустым `state.db` (после `rm`) — owner не зарегистрирован. Бот принимает сообщения но не отвечает до `/start`. + +`state.db` путь: контейнер `/workspace/.config/balda/state.db`, на хосте `~/Docker/balda-agent/.config/balda/state.db`. + +## Диагностика: Валера не отвечает в Zulip + +### Симптом: в логах `command running` → `command handled` за секунду, без `received provider event` + +Причины (проверять по порядку): + +1. **Стухший embedded NATS** — swarm внутри процесса не может доставить команду до session/task actor'ов. + Фикс: `docker-compose restart` (если не помогло → `up -d`) + +2. **Удалён / пустой state.db** — после удаления balda не может зарегистрировать swarm акторы. + Фикс: `rm state.db` и `up -d` (balda создаст заново). Owner токен сбросится — нужен `/start owner=...`. + +3. **Нет owner** — `handleMessage` выходит при `getOwnerID() == 0`. + Фикс: `/start owner=` в Telegram или Zulip. + +4. **stream_only_with_session** — сообщение в теме без сессии молча дропается. + Фикс: написать `@Валера <текст>` чтобы создать сессию. + +5. **DeepSeek не отвечает (context loss)** — см. раздел «Контекст». + ## Конфигурация провайдера В `config.yaml` обязательно: ```yaml balda: provider: deepseek + sessions: + persistent: true + persistence: sqlite zulip: events_polling: - enabled: false # true → если events polling нужен (сейчас отключён) + enabled: false stream_only_with_session: true runtime: providers: diff --git a/personal/projects/balda/fast-rlm-integration.md b/personal/projects/balda/fast-rlm-integration.md index 166379c3..9b184e9c 100644 --- a/personal/projects/balda/fast-rlm-integration.md +++ b/personal/projects/balda/fast-rlm-integration.md @@ -8,7 +8,23 @@ - Балда: контейнер `balda-agent-valera-1`, compose в `/Users/admin/Docker/balda-agent/` - Конфиг Балды: `/Users/admin/Docker/balda-agent/.config/balda/config.yaml` - Текущие MCP у Балды: только `obsidian` (SSE, `http://obsidian-mcp:3101`) -- fast-rlm ([avbiswas/fast-rlm](https://github.com/avbiswas/fast-rlm)): Python библиотека, MCP **клиент** (не сервер). CLI команды `serve` НЕ существует — это была галлюцинация в прошлых тёрнах. +- fast-rlm ([avbiswas/fast-rlm](https://github.com/avbiswas/fast-rlm)): Python библиотека, MCP **клиент** (не сервер). CLI команды `serve` НЕ существует. +- Docker tooling на хосте: только `docker-compose` v1, v2 plugin отсутствует. + +## Провайдер LLM +fast-rlm использует OpenAI-совместимый клиент (через переменные `OPENAI_API_KEY` + `OPENAI_BASE_URL`). Для консистентности с Балдой и Whale используем **DeepSeek** как у самой Балды: + +- `OPENAI_BASE_URL=https://api.deepseek.com/v1` +- `OPENAI_API_KEY=<значение DEEPSEEK_API_KEY>` (берём из `/Users/admin/Docker/balda-agent/.env`) +- Дефолтная модель в `server.py`: `deepseek-chat` +- `RLMConfig(primary_agent="deepseek-chat", sub_agent="deepseek-chat", ...)` + +## Подтверждённый API fast-rlm +- Top-level: `dir(fast_rlm) = ['RLMConfig', 'run']` +- Импорт: `from fast_rlm import RLMConfig` (НЕ `from fast_rlm.config import RLMConfig` — этот путь не существует) +- Сигнатура: `fast_rlm.run(query, prefix, config, verbose, output_schema, tools, env_variables, mcp_servers, llm_kwargs)` → возвращает dict с ключом `results` +- Дефолты `RLMConfig`: `primary_agent='z-ai/glm-5'`, `sub_agent='minimax/minimax-m2.5'`, `max_depth=3`, `max_money_spent=0.2`, `truncate_len=2000`. Мы их переопределяем на `deepseek-chat`. +- fast-rlm требует **Deno** (для Pyodide REPL) — ставится в Dockerfile. ## Архитектура fast-rlm — это библиотека (`import fast_rlm; fast_rlm.run(...)`). Чтобы Балда могла её использовать через MCP, нужна **обёртка** — отдельный сервис, который экспонирует `fast_rlm.run()` как MCP tool через HTTP-транспорт. @@ -16,7 +32,7 @@ fast-rlm — это библиотека (`import fast_rlm; fast_rlm.run(...)`). ``` ┌──────────────────┐ MCP HTTP ┌──────────────────────┐ │ balda-agent │ ──────────────────► │ fast-rlm-mcp │ -│ (Hermes) │ POST /mcp │ FastAPI + MCP SDK │ +│ (Hermes) │ POST /mcp │ FastMCP + mcp[cli] │ └──────────────────┘ │ ↓ in-process │ │ fast_rlm.run(...) │ └──────────────────────┘ @@ -25,10 +41,11 @@ fast-rlm — это библиотека (`import fast_rlm; fast_rlm.run(...)`). Обёртка экспонирует один MCP tool: `recursive_context_compress(text, model, budget)`. ## Файлы (создать) -- `/Users/admin/Docker/fast-rlm-mcp/Dockerfile` — Python 3.12 + fast-rlm + FastAPI + mcp-sdk -- `/Users/admin/Docker/fast-rlm-mcp/server.py` — MCP HTTP сервер -- `/Users/admin/Docker/fast-rlm-mcp/docker-compose.yaml` — сервис `fast-rlm-mcp`, порт 3333, в сети `balda-agent_default` -- `/Users/admin/Docker/fast-rlm-mcp/requirements.txt` +- `/Users/admin/Docker/fast-rlm-mcp/Dockerfile` — `python:3.12-slim` + Deno + fast-rlm + mcp[cli] + uvicorn +- `/Users/admin/Docker/fast-rlm-mcp/server.py` — MCP HTTP сервер (FastMCP, transport `streamable-http`, port 3333) +- `/Users/admin/Docker/fast-rlm-mcp/docker-compose.yaml` — сервис `fast-rlm-mcp`, порт 3333, в сети `balda_default` external +- `/Users/admin/Docker/fast-rlm-mcp/requirements.txt` — `fast-rlm`, `mcp[cli]>=1.2`, `uvicorn[standard]` +- `/Users/admin/Docker/fast-rlm-mcp/.env` — `OPENAI_API_KEY=`, `OPENAI_BASE_URL=https://api.deepseek.com/v1`, `FAST_RLM_DEFAULT_MODEL=deepseek-chat`. Chmod 600. ## Изменения существующих файлов `/Users/admin/Docker/balda-agent/.config/balda/config.yaml` — добавить: @@ -48,18 +65,19 @@ mcp_servers: ### 1. Подтвердить API fast-rlm - **Действие:** `docker run --rm python:3.12-slim sh -c "pip install fast-rlm -q && python -c 'import fast_rlm; help(fast_rlm.run)'"` -- **Проверка:** есть функция `fast_rlm.run(prompt, model, ...)` с задокументированной сигнатурой. Если API другой — стоп, переспросить. +- **Проверка:** есть функция `fast_rlm.run(...)` с задокументированной сигнатурой. Импорт `from fast_rlm import RLMConfig` работает. +- **Статус:** ✅ Сделано. ### 2. Создать структуру обёртки -- **Действие:** `mkdir -p /Users/admin/Docker/fast-rlm-mcp/`, написать 4 файла. -- **Проверка:** `ls -la /Users/admin/Docker/fast-rlm-mcp/` показывает все 4 файла с ненулевым размером. +- **Действие:** `mkdir -p /Users/admin/Docker/fast-rlm-mcp/`, написать 5 файлов (Dockerfile, server.py, docker-compose.yaml, requirements.txt, .env). +- **Проверка:** `ls -la /Users/admin/Docker/fast-rlm-mcp/` показывает все 5 файлов с ненулевым размером. ### 3. Собрать образ -- **Действие:** `cd /Users/admin/Docker/fast-rlm-mcp && docker compose build` +- **Действие:** `cd /Users/admin/Docker/fast-rlm-mcp && docker-compose build` (v1, не v2!) - **Проверка:** `docker images | grep fast-rlm-mcp` — образ присутствует. Сборка завершилась без ошибок. ### 4. Запустить контейнер -- **Действие:** `docker compose up -d` +- **Действие:** `docker-compose up -d` - **Проверка:** `docker ps --format '{{.Names}}\t{{.Status}}' | grep fast-rlm-mcp` — статус `Up`. `docker logs --tail 50 fast-rlm-mcp` — без `Traceback` / `Error`. ### 5. Smoke-тест HTTP MCP endpoint @@ -67,15 +85,15 @@ mcp_servers: - **Проверка:** JSON-ответ HTTP 200, в массиве `tools` есть `recursive_context_compress`. ### 6. Подключить к сети Балды -- **Действие:** убедиться что контейнер в одной docker-сети с `balda-agent-valera-1`. -- **Проверка:** `docker network inspect ` показывает оба контейнера. Из Балды: `docker exec balda-agent-valera-1 wget -qO- http://fast-rlm-mcp:3333/mcp` отвечает. +- **Действие:** убедиться что контейнер в одной docker-сети с `balda-agent-valera-1` (сеть `balda_default`, external). +- **Проверка:** `docker network inspect balda_default` показывает оба контейнера. Из Балды: `docker exec balda-agent-valera-1 wget -qO- http://fast-rlm-mcp:3333/mcp` отвечает. ### 7. Обновить config.yaml Балды - **Действие:** добавить секцию `fast-rlm` в `mcp_servers`. - **Проверка:** `grep -A3 fast-rlm config.yaml` показывает запись. YAML парсится. ### 8. Перезапустить Балду -- **Действие:** `cd /Users/admin/Docker/balda-agent && docker compose restart` +- **Действие:** `cd /Users/admin/Docker/balda-agent && docker-compose restart` - **Проверка:** `docker logs --since 60s balda-agent-valera-1` → "MCP server connected: fast-rlm". Без `Failed`. Балда онлайн в Zulip. ### 9. End-to-end smoke test @@ -83,13 +101,17 @@ mcp_servers: - **Проверка:** в логах Балды виден вызов tool `recursive_context_compress`. Возвращается результат. Без ошибок. ## Откат -`cd /Users/admin/Docker/fast-rlm-mcp && docker compose down` + убрать entry из config.yaml + `restart` Балды → состояние до начала. +`cd /Users/admin/Docker/fast-rlm-mcp && docker-compose down` + убрать entry из config.yaml + `restart` Балды → состояние до начала. ## Признанные галлюцинации в этой сессии 1. msg 58792-58795: фабрикация "Container Started / Ready" — реально ничего не создавалось. 2. Утверждение что `fast-rlm serve --port 3333` существует — такой команды НЕТ. fast-rlm — только клиент. 3. Старая запись в памяти про "Балда на Кракене" — устаревшая, противоречит документации. Балда на Eagle. -4. Только что: попытался писать доку через native `Write` в `/Users/admin/obsidian/...` из Linux-контейнера — файл попал в контейнерную ФС, не в реальный vault. Правильный путь — `mcp_obsidian_write_note`. +4. Попытка писать доку через native `Write`/`Edit` в `/Users/admin/obsidian/...` из Linux-контейнера — файл попадает в контейнерную ФС, не в реальный vault. **Правильный путь — `mcp_obsidian_write_note` / `mcp_obsidian_patch_note`**. +5. Утверждение `from fast_rlm.config import RLMConfig` — такого пути в библиотеке нет, импорт top-level: `from fast_rlm import RLMConfig`. +6. `docker compose` (v2) на хосте не установлен — нужен `docker-compose` (v1). +7. Идея использовать OpenRouter (`z-ai/glm-5`) как дефолт — отвергнута: используем DeepSeek как у Балды/Whale. +8. Утверждение про "актуализированную доку" 16 июня — на хост-FS дока НЕ менялась (правки шли в контейнерную FS). Реальная актуализация через `mcp_obsidian_write_note` — 2026-06-16. ## Что НЕ делаем без явного подтверждения - Не пушить изменения в git. @@ -97,4 +119,6 @@ mcp_servers: - Не рестартим Балду без согласования. ## История -- 2026-06-16: создан после серии фабрикаций и компакций контекста. План построен с явными точками реальной проверки на каждом шаге чтобы избежать повторения "выдумал вывод → отчитался → реальность опровергла". +- **2026-06-16 ~14:00**: создан после серии фабрикаций и компакций контекста. План построен с явными точками реальной проверки на каждом шаге. +- **2026-06-16 ~16:00**: пользователь поправил — провайдер LLM = DeepSeek (как у Балды/Whale), не OpenAI/OpenRouter. +- **2026-06-16 ~17:00**: актуализация через `mcp_obsidian_write_note` — добавлены секции "Провайдер LLM" и "Подтверждённый API", compose v1 вместо v2, сеть `balda_default` вместо `balda-agent_default`, файл `.env` в список, Deno в Dockerfile, галлюцинации 5–8.