docs: split handbook into docs/ by topic, slim root README, add docs index
Made-with: Cursor
This commit is contained in:
@@ -0,0 +1,65 @@
|
||||
# Локальные модели через Ollama: где брать, что ставить, обслуживание
|
||||
|
||||
## Где брать модели
|
||||
|
||||
Проще всего через каталог Ollama: [https://ollama.com/library](https://ollama.com/library)
|
||||
|
||||
Расширенные таблицы и заметки по семействам: [model-catalog.md](model-catalog.md)
|
||||
|
||||
## Рекомендуемый старт
|
||||
|
||||
- `qwen2.5-coder:7b` — хороший баланс для кода
|
||||
- `qwen2.5:3b` — если сервер слабый
|
||||
- `llama3.1:8b` — универсальный сильный baseline
|
||||
- `deepseek-r1:8b` — reasoning-ориентированный вариант
|
||||
|
||||
## Базовые команды
|
||||
|
||||
```bash
|
||||
ollama pull qwen2.5-coder:7b
|
||||
ollama pull qwen2.5:3b
|
||||
ollama pull llama3.1:8b
|
||||
ollama pull deepseek-r1:8b
|
||||
ollama list
|
||||
```
|
||||
|
||||
Установка самого Ollama по ОС — в [install-openclaude-cli.md](install-openclaude-cli.md#2-установка-и-запуск-ollama-для-локального-профиля).
|
||||
|
||||
## «Модель дообучается сама» от работы в чате?
|
||||
|
||||
Короткий ответ: **нет**.
|
||||
|
||||
- Обычная работа в чате не дообучает модель автоматически.
|
||||
- Качество обычно улучшают так:
|
||||
- обновляют модель/тег (`ollama pull ...`);
|
||||
- улучшают системные промпты;
|
||||
- подключают RAG (документы + retrieval).
|
||||
- Полноценный finetune/LoRA — отдельный ML-процесс.
|
||||
|
||||
## Обновление и обслуживание
|
||||
|
||||
Смотреть установленные:
|
||||
|
||||
```bash
|
||||
ollama list
|
||||
```
|
||||
|
||||
Обновлять нужные:
|
||||
|
||||
```bash
|
||||
ollama pull qwen2.5-coder:7b
|
||||
```
|
||||
|
||||
Удалять старые:
|
||||
|
||||
```bash
|
||||
ollama rm <model:tag>
|
||||
```
|
||||
|
||||
Проверять занятое место (Linux):
|
||||
|
||||
```bash
|
||||
sudo du -h --max-depth=2 /usr/share/ollama /var/lib/ollama 2>/dev/null | sort -h | tail -n 30
|
||||
```
|
||||
|
||||
Дальше: как подключать документы и MCP — [rag-mcp-stack.md](rag-mcp-stack.md).
|
||||
Reference in New Issue
Block a user