docs: add optional Ollama models path on second disk
Made-with: Cursor
This commit is contained in:
+33
-12
@@ -63,14 +63,35 @@ chmod +x install-minimal.sh
|
|||||||
./install-minimal.sh --model qwen2.5:3b
|
./install-minimal.sh --model qwen2.5:3b
|
||||||
```
|
```
|
||||||
|
|
||||||
## 4) Скачать стартовые модели
|
## 4) (Опционально) Хранить модели Ollama на втором диске
|
||||||
|
|
||||||
|
Если системный диск маленький, заранее перенесите путь хранения моделей (например, на `/mnt/data`).
|
||||||
|
|
||||||
|
```bash
|
||||||
|
sudo mkdir -p /mnt/data/ollama-models
|
||||||
|
sudo chown -R ollama:ollama /mnt/data/ollama-models
|
||||||
|
|
||||||
|
sudo mkdir -p /etc/systemd/system/ollama.service.d
|
||||||
|
sudo tee /etc/systemd/system/ollama.service.d/override.conf > /dev/null <<'EOF'
|
||||||
|
[Service]
|
||||||
|
Environment="OLLAMA_MODELS=/mnt/data/ollama-models"
|
||||||
|
EOF
|
||||||
|
|
||||||
|
sudo systemctl daemon-reload
|
||||||
|
sudo systemctl restart ollama
|
||||||
|
systemctl show ollama -p Environment
|
||||||
|
```
|
||||||
|
|
||||||
|
После этого новые `ollama pull ...` будут сохраняться в `OLLAMA_MODELS`.
|
||||||
|
|
||||||
|
## 5) Скачать стартовые модели
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
ollama pull qwen2.5-coder:7b
|
ollama pull qwen2.5-coder:7b
|
||||||
ollama pull nomic-embed-text
|
ollama pull nomic-embed-text
|
||||||
```
|
```
|
||||||
|
|
||||||
## 5) Поднять Qdrant
|
## 6) Поднять Qdrant
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
||||||
@@ -78,7 +99,7 @@ docker compose up -d
|
|||||||
curl -s http://127.0.0.1:6333/collections
|
curl -s http://127.0.0.1:6333/collections
|
||||||
```
|
```
|
||||||
|
|
||||||
## 6) Подготовить Python окружение
|
## 7) Подготовить Python окружение
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
||||||
@@ -88,7 +109,7 @@ pip install --upgrade pip
|
|||||||
pip install -r requirements.txt
|
pip install -r requirements.txt
|
||||||
```
|
```
|
||||||
|
|
||||||
## 7) Проиндексировать документы
|
## 8) Проиндексировать документы
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
||||||
@@ -97,7 +118,7 @@ mkdir -p docs
|
|||||||
python index.py
|
python index.py
|
||||||
```
|
```
|
||||||
|
|
||||||
## 8) Запустить MCP сервер
|
## 9) Запустить MCP сервер
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
||||||
@@ -105,7 +126,7 @@ source .venv/bin/activate
|
|||||||
python mcp_server.py
|
python mcp_server.py
|
||||||
```
|
```
|
||||||
|
|
||||||
## 9) Подключить MCP в OpenClaude
|
## 10) Подключить MCP в OpenClaude
|
||||||
|
|
||||||
Добавьте в `~/.claude/settings.json`:
|
Добавьте в `~/.claude/settings.json`:
|
||||||
|
|
||||||
@@ -122,7 +143,7 @@ python mcp_server.py
|
|||||||
|
|
||||||
Замените `USER` на вашего пользователя.
|
Замените `USER` на вашего пользователя.
|
||||||
|
|
||||||
## 10) Запуск OpenClaude на локальной модели
|
## 11) Запуск OpenClaude на локальной модели
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
export CLAUDE_CODE_USE_OPENAI=1
|
export CLAUDE_CODE_USE_OPENAI=1
|
||||||
@@ -133,7 +154,7 @@ openclaude
|
|||||||
|
|
||||||
Проверка в чате: попросите агента использовать `search_docs` по вашему запросу.
|
Проверка в чате: попросите агента использовать `search_docs` по вашему запросу.
|
||||||
|
|
||||||
## 11) Проверка готовности стенда
|
## 12) Проверка готовности стенда
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
||||||
@@ -141,7 +162,7 @@ chmod +x healthcheck.sh
|
|||||||
./healthcheck.sh --mode full
|
./healthcheck.sh --mode full
|
||||||
```
|
```
|
||||||
|
|
||||||
## 12) Быстрый статус в одном экране
|
## 13) Быстрый статус в одном экране
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
||||||
@@ -149,7 +170,7 @@ chmod +x status.sh
|
|||||||
./status.sh
|
./status.sh
|
||||||
```
|
```
|
||||||
|
|
||||||
## 13) Бэкап перед обновлениями
|
## 14) Бэкап перед обновлениями
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
||||||
@@ -157,7 +178,7 @@ chmod +x backup.sh
|
|||||||
./backup.sh
|
./backup.sh
|
||||||
```
|
```
|
||||||
|
|
||||||
## 14) Восстановление из бэкапа
|
## 15) Восстановление из бэкапа
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
||||||
@@ -165,7 +186,7 @@ chmod +x restore.sh
|
|||||||
./restore.sh --from /path/to/backup_YYYYMMDD_HHMMSS
|
./restore.sh --from /path/to/backup_YYYYMMDD_HHMMSS
|
||||||
```
|
```
|
||||||
|
|
||||||
## 15) Безопасное обновление стенда
|
## 16) Безопасное обновление стенда
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
cd ~/openclaude-LLM-local/docs/rag-mcp-starter
|
||||||
|
|||||||
Reference in New Issue
Block a user