[2026-09-23] eagle: personal/projects/personal-os/glm-provider-migration.md personal/tech/llm-model-selection-2026.md
This commit is contained in:
1 parent
4d44f94c1b
commit
fb054f95d8
2 files changed
+102
-11
No files matched your search
@@ -83,6 +83,32 @@ adversarial reliability (Opus 5: 2% injection success at k=15 против 5.9%
|
||||
Разница между №13 и №31 в чужом харнессе может исчезнуть в нашем Hermes.
|
||||
Единственный честный способ — прогнать 10 реальных задач на обеих моделях.
|
||||
|
||||
## 🔴 Измерено на практике (2026-09-23): кэш решает всё
|
||||
|
||||
При выборе GLM-5.3 (см. [[glm-provider-migration]]) замерен фактический cache-hit из логов:
|
||||
|
||||
```
|
||||
API call: model=deepseek-chat provider=deepseek in=92975 out=115
|
||||
latency=2.2s cache=92800/92975 (100%)
|
||||
```
|
||||
|
||||
**DeepSeek отдаёт 100% cache-hit** на нашем стабильном префиксе. При 93К контекста это
|
||||
значит: вход стоит **$0.003/M вместо $0.15/M** — практически бесплатно.
|
||||
|
||||
**Следствие для таблиц выше:** колонка «Cache-hit: н/д» у GLM — это не «не опубликовано»,
|
||||
а **отсутствие кэша**. У GLM-5.3 live-тест показал `in=20961` без строки cache.
|
||||
|
||||
**Пересчёт реальной стоимости под наш профиль:** на префиксной части вход дорожает
|
||||
с ~$0.003/M до $0.56/M — **до ~187×**. Номинальный разрыв в прайсе (2.9× по output)
|
||||
сильно недооценивает реальный рост расхода.
|
||||
|
||||
**Вывод: таблица Value Score не описывает нашу экономику.** Она считает по номинальному
|
||||
output-прайсу и игнорирует кэш. Для агентных нагрузок с длинным повторяющимся префиксом
|
||||
cache-hit — доминирующая статья, и модели без кэша проигрывают сильнее, чем показывает Value.
|
||||
|
||||
Правило на будущее: **при выборе модели для агента первым делом проверять cache-hit прайс
|
||||
и наличие кэша в реальном ответе API, а не Value Score.**
|
||||
|
||||
## Часы пик / off-peak (DeepSeek)
|
||||
|
||||
С 2026-08-16 DeepSeek билит по peak/off-peak. Пик: 2:00–18:00 UTC.
|
||||
|
||||
Reference in new issue
Block a user