openclaude-LLM-local/docs/model-catalog.md

Model catalog for coding

Практический каталог моделей для code-задач в локальном и гибридном сценарии.

Важно: "лучшая модель" зависит от языка проекта, длины контекста, формата задач и вашего железа.

1) Рекомендуемые семейства

Модель	Класс	Сильные стороны	Когда брать	Пример формата
Qwen2.5-Coder	7B / 14B / 32B	Сильный coding baseline, хорошая универсальность	Python/JS/TS/Go/Rust, код-ревью, рефакторинг	Ollama, GGUF, GPTQ/EXL2
DeepSeek-Coder (V2 / distill)	16B+ / MoE варианты	Часто сильная логика в code reasoning	Сложные задачи и агентные цепочки, если есть ресурсы	Ollama/HF квантизованные
Codestral (Mistral)	~22B класс	Хороший автокомплит и редактирование	IDE-автодополнение и правки среднего размера	GGUF/GPTQ
StarCoder2	~15B класс	Стабильная альтернатива для инлайна	Нужен второй/резервный профиль	GGUF/Ollama сборки

2) Где брать

• Самый простой путь: ollama pull <model:tag>
• Гибкий путь: Hugging Face (квантизованные сборки, ручной контроль формата)

Популярные издатели квантизованных сборок на HF:

• bartowski
• MaziyarPanahi
• TheBloke

3) Рекомендуемые стартовые профили

• weak-server: qwen2.5:3b
• balanced: qwen2.5-coder:7b
• quality: qwen2.5-coder:14b (или аналог) при наличии достаточного GPU VRAM

4) Практика выбора

1. Начните с одной быстрой и одной "качественной" модели.
2. Прогоните одинаковый benchmark-набор задач.
3. Сравните:
   • токены/сек
   • количество правок до прохождения тестов
   • число ошибок в multi-file изменениях
4. Зафиксируйте победителя как default-профиль.