openclaude-LLM-local/docs/local-llm-ollama.md

Локальные модели через Ollama: где брать, что ставить, обслуживание

Где брать модели

Проще всего через каталог Ollama: https://ollama.com/library

Расширенные таблицы и заметки по семействам: model-catalog.md

Рекомендуемый старт

• qwen2.5-coder:7b — хороший баланс для кода
• qwen2.5:3b — если сервер слабый
• llama3.1:8b — универсальный сильный baseline
• deepseek-r1:8b — reasoning-ориентированный вариант

Базовые команды

ollama pull qwen2.5-coder:7b
ollama pull qwen2.5:3b
ollama pull llama3.1:8b
ollama pull deepseek-r1:8b
ollama list

Установка самого Ollama по ОС — в install-openclaude-cli.md.

«Модель дообучается сама» от работы в чате?

Короткий ответ: нет.

• Обычная работа в чате не дообучает модель автоматически.
• Качество обычно улучшают так:
  • обновляют модель/тег (ollama pull ...);
  • улучшают системные промпты;
  • подключают RAG (документы + retrieval).
• Полноценный finetune/LoRA — отдельный ML-процесс.

Обновление и обслуживание

Смотреть установленные:

ollama list

Обновлять нужные:

ollama pull qwen2.5-coder:7b

Удалять старые:

ollama rm <model:tag>

Проверять занятое место (Linux):

sudo du -h --max-depth=2 /usr/share/ollama /var/lib/ollama 2>/dev/null | sort -h | tail -n 30

Дальше: как подключать документы и MCP — rag-mcp-stack.md.