Add model and runtime guidance documentation set.
Made-with: Cursor
This commit is contained in:
@@ -0,0 +1,28 @@
|
||||
# Expectations: cloud vs local
|
||||
|
||||
Ориентиры, чтобы заранее понимать компромиссы.
|
||||
|
||||
| Параметр | Облачный стек | Локальный стек (условно 7B-14B) |
|
||||
| --- | --- | --- |
|
||||
| Качество "из коробки" | Обычно выше и стабильнее | Может быть очень хорошим, но требует настройки |
|
||||
| Контекст | Часто больше | Зависит от модели/рантайма |
|
||||
| Автономность агента | Часто готова сразу | Требует сборки инструментов/MCP |
|
||||
| Приватность | Код уходит во внешний сервис | Код остается у вас |
|
||||
| Скорость | Обычно стабильно высокая | Зависит от GPU/VRAM/нагрузки |
|
||||
| Стоимость | Подписка/usage | Железо + электричество + админка |
|
||||
|
||||
## Практический вывод
|
||||
|
||||
- Для приватных данных и контроля инфраструктуры локальный стек очень выгоден.
|
||||
- Для "сложных нажатий на кнопку" и максимального качества иногда удобен гибрид:
|
||||
- локально для повседневных задач
|
||||
- облако для особо сложных multi-step кейсов.
|
||||
|
||||
## Реалистичная цель
|
||||
|
||||
Не "скопировать 1-в-1", а собрать надежный рабочий процесс:
|
||||
|
||||
- быстрый локальный baseline
|
||||
- понятный pipeline обновлений
|
||||
- benchmark на ваших задачах
|
||||
- fallback-профиль на случай деградации модели
|
||||
Reference in New Issue
Block a user