PTah
66 lines
2.1 KiB
Markdown
66 lines
2.1 KiB
Markdown
# Локальные модели через Ollama: где брать, что ставить, обслуживание
|
|
|
|
## Где брать модели
|
|
|
|
Проще всего через каталог Ollama: [https://ollama.com/library](https://ollama.com/library)
|
|
|
|
Расширенные таблицы и заметки по семействам: [model-catalog.md](model-catalog.md)
|
|
|
|
## Рекомендуемый старт
|
|
|
|
- `qwen2.5-coder:7b` — хороший баланс для кода
|
|
- `qwen2.5:3b` — если сервер слабый
|
|
- `llama3.1:8b` — универсальный сильный baseline
|
|
- `deepseek-r1:8b` — reasoning-ориентированный вариант
|
|
|
|
## Базовые команды
|
|
|
|
```bash
|
|
ollama pull qwen2.5-coder:7b
|
|
ollama pull qwen2.5:3b
|
|
ollama pull llama3.1:8b
|
|
ollama pull deepseek-r1:8b
|
|
ollama list
|
|
```
|
|
|
|
Установка самого Ollama по ОС — в [install-openclaude-cli.md](install-openclaude-cli.md#2-установка-и-запуск-ollama-для-локального-профиля).
|
|
|
|
## «Модель дообучается сама» от работы в чате?
|
|
|
|
Короткий ответ: **нет**.
|
|
|
|
- Обычная работа в чате не дообучает модель автоматически.
|
|
- Качество обычно улучшают так:
|
|
- обновляют модель/тег (`ollama pull ...`);
|
|
- улучшают системные промпты;
|
|
- подключают RAG (документы + retrieval).
|
|
- Полноценный finetune/LoRA — отдельный ML-процесс.
|
|
|
|
## Обновление и обслуживание
|
|
|
|
Смотреть установленные:
|
|
|
|
```bash
|
|
ollama list
|
|
```
|
|
|
|
Обновлять нужные:
|
|
|
|
```bash
|
|
ollama pull qwen2.5-coder:7b
|
|
```
|
|
|
|
Удалять старые:
|
|
|
|
```bash
|
|
ollama rm <model:tag>
|
|
```
|
|
|
|
Проверять занятое место (Linux):
|
|
|
|
```bash
|
|
sudo du -h --max-depth=2 /usr/share/ollama /var/lib/ollama 2>/dev/null | sort -h | tail -n 30
|
|
```
|
|
|
|
Дальше: как подключать документы и MCP — [rag-mcp-stack.md](rag-mcp-stack.md).
|