[2026-09-23] eagle: personal/projects/personal-os/glm-provider-migration.md personal/tech/llm-model-selection-2026.md

This commit is contained in:
Alexey Martemyanov committed 2026-09-23 22:38:39 +06:00
1 parent 4d44f94c1b
commit fb054f95d8
2 files changed
+102 -11

No files matched your search

+26
View File
@@ -83,6 +83,32 @@ adversarial reliability (Opus 5: 2% injection success at k=15 против 5.9%
Разница между №13 и №31 в чужом харнессе может исчезнуть в нашем Hermes.
Единственный честный способ — прогнать 10 реальных задач на обеих моделях.
## 🔴 Измерено на практике (2026-09-23): кэш решает всё
При выборе GLM-5.3 (см. [[glm-provider-migration]]) замерен фактический cache-hit из логов:
```
API call: model=deepseek-chat provider=deepseek in=92975 out=115
latency=2.2s cache=92800/92975 (100%)
```
**DeepSeek отдаёт 100% cache-hit** на нашем стабильном префиксе. При 93К контекста это
значит: вход стоит **$0.003/M вместо $0.15/M** — практически бесплатно.
**Следствие для таблиц выше:** колонка «Cache-hit: н/д» у GLM — это не «не опубликовано»,
а **отсутствие кэша**. У GLM-5.3 live-тест показал `in=20961` без строки cache.
**Пересчёт реальной стоимости под наш профиль:** на префиксной части вход дорожает
с ~$0.003/M до $0.56/M — **до ~187×**. Номинальный разрыв в прайсе (2.9× по output)
сильно недооценивает реальный рост расхода.
**Вывод: таблица Value Score не описывает нашу экономику.** Она считает по номинальному
output-прайсу и игнорирует кэш. Для агентных нагрузок с длинным повторяющимся префиксом
cache-hit — доминирующая статья, и модели без кэша проигрывают сильнее, чем показывает Value.
Правило на будущее: **при выборе модели для агента первым делом проверять cache-hit прайс
и наличие кэша в реальном ответе API, а не Value Score.**
## Часы пик / off-peak (DeepSeek)
С 2026-08-16 DeepSeek билит по peak/off-peak. Пик: 2:00–18:00 UTC.