Files
openclaude-LLM-local/docs/quickstart-30min.md
T
Andrey Lutsenko 227555386d Add stack healthcheck script and usage docs.
Made-with: Cursor
2026-04-20 23:01:13 +10:00

2.8 KiB

OpenClaude + Local LLM: Quickstart 30 min

Короткий маршрут "с нуля до рабочего стенда" на Ubuntu.

0) Что получится

  • локальный LLM через Ollama
  • openclaude в CLI
  • локальный RAG-поиск через MCP (search_docs)

1) Установка зависимостей

sudo apt update
sudo apt install -y curl git docker.io docker-compose-plugin python3 python3-venv python3-pip direnv
sudo systemctl enable docker
sudo systemctl start docker

2) Установка Ollama

curl -fsSL https://ollama.com/install.sh | sh
sudo systemctl enable ollama
sudo systemctl start ollama
curl -s http://127.0.0.1:11434/api/tags

3) Установка OpenClaude

npm install -g @gitlawb/openclaude

Для очень слабого сервера можно использовать минимальный установщик:

cd ~/openclaude-LLM-local/docs/rag-mcp-starter
chmod +x install-minimal.sh
./install-minimal.sh --model qwen2.5:3b

4) Скачать стартовые модели

ollama pull qwen2.5-coder:7b
ollama pull nomic-embed-text

5) Поднять Qdrant

cd ~/openclaude-LLM-local/docs/rag-mcp-starter
docker compose up -d
curl -s http://127.0.0.1:6333/collections

6) Подготовить Python окружение

cd ~/openclaude-LLM-local/docs/rag-mcp-starter
python3 -m venv .venv
source .venv/bin/activate
pip install --upgrade pip
pip install -r requirements.txt

7) Проиндексировать документы

cd ~/openclaude-LLM-local/docs/rag-mcp-starter
mkdir -p docs
# Добавьте в docs/ файлы .md .txt .pdf
python index.py

8) Запустить MCP сервер

cd ~/openclaude-LLM-local/docs/rag-mcp-starter
source .venv/bin/activate
python mcp_server.py

9) Подключить MCP в OpenClaude

Добавьте в ~/.claude/settings.json:

{
  "mcpServers": {
    "local-rag": {
      "command": "/home/USER/openclaude-LLM-local/docs/rag-mcp-starter/.venv/bin/python",
      "args": ["/home/USER/openclaude-LLM-local/docs/rag-mcp-starter/mcp_server.py"]
    }
  }
}

Замените USER на вашего пользователя.

10) Запуск OpenClaude на локальной модели

export CLAUDE_CODE_USE_OPENAI=1
export OPENAI_BASE_URL=http://127.0.0.1:11434/v1
export OPENAI_MODEL=qwen2.5-coder:7b
openclaude

Проверка в чате: попросите агента использовать search_docs по вашему запросу.

11) Проверка готовности стенда

cd ~/openclaude-LLM-local/docs/rag-mcp-starter
chmod +x healthcheck.sh
./healthcheck.sh --mode full