Andrey Lutsenko
42 lines
2.5 KiB
Markdown
42 lines
2.5 KiB
Markdown
# Model catalog for coding
|
|
|
|
Практический каталог моделей для code-задач в локальном и гибридном сценарии.
|
|
|
|
> Важно: "лучшая модель" зависит от языка проекта, длины контекста, формата задач и вашего железа.
|
|
|
|
## 1) Рекомендуемые семейства
|
|
|
|
| Модель | Класс | Сильные стороны | Когда брать | Пример формата |
|
|
| --- | --- | --- | --- | --- |
|
|
| Qwen2.5-Coder | 7B / 14B / 32B | Сильный coding baseline, хорошая универсальность | Python/JS/TS/Go/Rust, код-ревью, рефакторинг | Ollama, GGUF, GPTQ/EXL2 |
|
|
| DeepSeek-Coder (V2 / distill) | 16B+ / MoE варианты | Часто сильная логика в code reasoning | Сложные задачи и агентные цепочки, если есть ресурсы | Ollama/HF квантизованные |
|
|
| Codestral (Mistral) | ~22B класс | Хороший автокомплит и редактирование | IDE-автодополнение и правки среднего размера | GGUF/GPTQ |
|
|
| StarCoder2 | ~15B класс | Стабильная альтернатива для инлайна | Нужен второй/резервный профиль | GGUF/Ollama сборки |
|
|
|
|
## 2) Где брать
|
|
|
|
- **Самый простой путь:** `ollama pull <model:tag>`
|
|
- **Гибкий путь:** Hugging Face (квантизованные сборки, ручной контроль формата)
|
|
|
|
Популярные издатели квантизованных сборок на HF:
|
|
|
|
- `bartowski`
|
|
- `MaziyarPanahi`
|
|
- `TheBloke`
|
|
|
|
## 3) Рекомендуемые стартовые профили
|
|
|
|
- **weak-server**: `qwen2.5:3b`
|
|
- **balanced**: `qwen2.5-coder:7b`
|
|
- **quality**: `qwen2.5-coder:14b` (или аналог) при наличии достаточного GPU VRAM
|
|
|
|
## 4) Практика выбора
|
|
|
|
1. Начните с одной быстрой и одной "качественной" модели.
|
|
2. Прогоните одинаковый benchmark-набор задач.
|
|
3. Сравните:
|
|
- токены/сек
|
|
- количество правок до прохождения тестов
|
|
- число ошибок в multi-file изменениях
|
|
4. Зафиксируйте победителя как default-профиль.
|