🧠 ff_PrivateRag – 本地私有知识库 MCP 工具

基于 MCP（Model Context Protocol）的本地知识库服务：把文档与整个代码仓库导入本地向量库，让 Claude Code / Claude Desktop / Cursor 等 AI 助手直接语义检索你的私人资料。所有数据与模型都在本地运行，不上传任何内容。

pip install ff-privaterag                  # 基础安装
claude mcp add ff-privaterag -- ff-privaterag   # 注册到 Claude Code

✨ 核心能力

• 🔒 纯本地 / 隐私不出机：本地嵌入（bge-small-zh）+ 本地向量库（ChromaDB），数据不上云。
• 📁 文档 + 代码仓库导入：单文件或整个目录递归导入；自动剪枝 node_modules/.git/dist 等、跟随 .gitignore。
• 📄 80+ 文件类型：文档/前端/Python/各类后端语言/脚本/SQL/配置 + 按文件名（Dockerfile/Makefile 等）；可选 Office（.docx/.xlsx/.pptx）。
• 🚀 后台导入 + 进度可见：大仓库后台导入不阻塞、不断连；ingest_status/wait_ingest 看块级百分比 + 当前文件 + 活性/卡死检测。
• ⚡ CPU 提速：可选 ONNX int8 量化（[fast]），纯 CPU 约 3× 加速。
• 🔎 变更可追溯：每个文本块记录来源路径、修改时间、Git 作者。
• 🛡️ 健壮自救：并发导入互斥、僵死锁超时快速失败、reset_ingest 一键重置。

🧰 MCP 工具一览（9 个）

📦 安装选项

pip install ff-privaterag              # 基础（文档 + 代码 + 配置类）
pip install "ff-privaterag[markitdown]" # + 富文档（docx/xlsx/pptx/pdf/html/msg，统一转 Markdown，推荐）
pip install "ff-privaterag[office]"    # + Office（仅 docx/xlsx/pptx，markitdown 的轻量替代）
pip install "ff-privaterag[fast]"      # + ONNX int8 加速（纯 CPU 约 3×）

🇨🇳 中国大陆会自动回退到 hf-mirror.com 镜像下载嵌入模型，无需手动配置。

📌 项目目标

• 私有化：所有数据、模型均运行在本地，无需联网，确保隐私安全。
• 本地检索增强：为 AI 助手提供本地文件（文档、代码）的语义检索能力，提升问答准确性。
• 轻量易用：通过 MCP 协议无缝集成到主流 AI 客户端，操作简单。
• 可追溯：记录文档来源、变更时间，支持审计与版本回溯。

🧩 技术选型

🏗️ 系统架构

graph TD
    A[AI 客户端<br>Claude Desktop / Cursor] -->|MCP协议 stdio| B[ff_PrivateRag MCP Server]
    B --> C[FastMCP 路由]
    C --> D1[工具: ingest_document]
    C --> D2[工具: query_knowledge]
    D1 --> E[文本分块 Chunking]
    E --> F[嵌入模型 Embedding]
    F --> G[ChromaDB 向量存储]
    D2 --> H[向量检索]
    H --> G
    H --> I[返回相关片段]
    I --> J[LLM 生成答案（由客户端调用）]

🚀 安装

pip install ff-privaterag

安装后会注册命令行入口 ff-privaterag，用于以 stdio 方式启动 MCP 服务器。

首次执行检索/导入时会自动下载嵌入模型 BAAI/bge-small-zh-v1.5（约 95MB）并缓存到本地，之后离线可用。

🇨🇳 中国大陆网络：huggingface.co 通常无法直连。工具会自动探测并回退到镜像 https://hf-mirror.com，一般无需手动设置。

• 想指定其他端点：export HF_ENDPOINT=https://your-mirror（PowerShell：$env:HF_ENDPOINT="..."）
• 想禁用自动回退：export FF_PRIVATERAG_NO_HF_MIRROR=1

🔌 在 Claude Code CLI 中集成

claude mcp add ff-privaterag -- ff-privaterag

注册后重启 / 新开 Claude Code 会话，即可在对话中调用 ingest_document 与 query_knowledge 两个工具。

其他 MCP 客户端（Claude Desktop / Cursor）也兼容，在其配置中把 ff-privaterag 注册为本地 stdio server 即可。

数据目录

向量库默认持久化在全局目录 ~/.ff_privaterag/chroma，与启动目录无关（适配被客户端作为子进程拉起的场景）。如需自定义：

export FF_PRIVATERAG_DATA_DIR=/your/custom/path   # 覆盖默认持久化目录

💡 使用示例

在 Claude Code 对话中用自然语言即可，由模型自动调用工具：

导入文档

你：把 D:\docs\需求文档.md 导入知识库
→ 工具 ingest_document(file_path="D:\\docs\\需求文档.md")
← 成功导入文档 '需求文档.md'，共 8 个文本块。

导入整个代码仓库（v0.2 新增）

你：把 D:\Workspace\my-vue-app 这个仓库导入知识库
→ 工具 ingest_directory(dir_path="D:\\Workspace\\my-vue-app")
← 目录 'my-vue-app' 导入完成：新增 187 个、更新 0 个文件，共 1432 个文本块；跳过 23984 个文件（gitignored 23800，unsupported_ext 150，too_large 20，binary 14）。

ingest_directory 会：

• 递归导入目录下所有受支持的文本/代码/配置文件
• 自动剪枝 node_modules、.git、dist、build、__pycache__、.venv 等无关目录
• 跟随仓库 .gitignore 跳过被忽略的文件
• 跳过超大文件（默认 >1MB，可经 FF_PRIVATERAG_MAX_FILE_BYTES 调整）与二进制文件
• 每个文件沿用幂等逻辑：内容未变跳过、变更覆盖

支持 80+ 种文件类型（v0.12）：

• 文档/标记：.txt .md .pdf .rst .adoc .tex .csv .tsv
• 前端/模板：.js .mjs .cjs .ts .jsx .tsx .vue .svelte .astro .css .scss .less .html .ejs .hbs .pug .twig
• Python：.py .pyi
• 后端/系统语言：.java .go .rs .cpp .c .h .cs .kt .rb .php .swift .scala .lua .dart .r .pl .groovy .clj .ex .erl .hs .jl .nim .zig
• 脚本：.sh .bash .zsh .bat .cmd .ps1　数据库：.sql .graphql .gql
• 配置/数据：.json .yaml .yml .toml .xml .ini .env .properties .conf .cfg .gradle .editorconfig
• 按文件名（无扩展名）：Dockerfile Makefile Jenkinsfile Procfile .gitignore .npmrc .babelrc .prettierrc .eslintrc 等
• Office / 富文档（可选依赖）：.docx .xlsx .pptx .pdf .html .msg —— 推荐装 markitdown（pip install "ff-privaterag[markitdown]"），统一转 Markdown、保留表格结构；未装时 Office 回退 python-docx 等、PDF 回退 pdfplumber。富文档单独放宽体积上限（默认 50MB，FF_PRIVATERAG_MAX_DOC_BYTES），大文档不会被代码文件的 1MB 上限误跳过。

⚡ 性能（v0.4）：

• 流式写入：目录导入边嵌入边落盘（每满 FF_PRIVATERAG_FLUSH_CHUNKS 块写一次，默认 512），导入中库逐步增长、中途中断已导入部分保留、再次导入自动跳过未变文件（断点续传）。
• 快速模式（int8 量化，约 3× 提速）：纯 CPU 下嵌入慢的解法。

  pip install "ff-privaterag[fast]"      # 装 optimum/onnxruntime
  export FF_PRIVATERAG_FAST_EMBED=1      # 启用 ONNX int8 量化后端
  

  实测 bge-small-zh 在 CPU 上约 21→72 块/秒（~3.4×），检索质量几乎无损（余弦 0.995）。首次会构建并缓存量化模型（约几十秒，仅一次，存于 ~/.ff_privaterag/onnx-int8/）。未装 [fast] 或加载失败时自动回退 PyTorch，不影响使用。
  • 量化配置默认 avx512_vnni（现代 Intel/AMD）；老 CPU/ARM 可设 FF_PRIVATERAG_QUANT_CONFIG=avx2（或 arm64）。
• Git 元数据：目录导入只打开一次仓库（约 2.8× 提速）；FF_PRIVATERAG_NO_GIT_META=1 可完全跳过（最快，但检索结果无作者信息）。
• 进度与规模信息输出到 stderr 日志（Claude Code 的 MCP 日志面板可见）；MCP 协议下没有实时进度条。
• 仓库很大时仍建议先导核心子目录（如 src/）。
• 🔒 并发导入（v0.5）：同一知识库同一时刻只能有一个导入在写（ChromaDB 限制）。若已有导入在进行时再发起导入，会立即收到友好提示（不再无声卡死），等前一个完成再试即可。极端情况下进程崩溃残留的锁会被自动接管；如有需要也可手动删除 <数据目录>/.import.lock。查询不受影响。
• 🚀 后台导入（v0.7）：ingest_directory 默认提交后台任务并立即返回，导入在后台持续进行——彻底避免大仓库长时间占用单次调用导致 MCP error -32000: Connection closed。
  • 用 ingest_status 工具随时查看进度（已处理 X/Y 文件、已写入 N 块、完成/中断）。
  • 用 wait_ingest 工具持续跟踪进度（v0.10）：它会等待（最多约 30 秒，FF_PRIVATERAG_WAIT_SECONDS 可调）到"有进展/完成"才返回，未完成时提示可再次调用——连续调用即形成每隔约 30 秒一段的自动进度。（MCP 协议下工具无法主动推送，这是逼近"自动进度"的方式。）
  • 📈 块级百分比进度（v0.11）：进度以块百分比 + 当前文件名呈现（如"导入中 62%，当前：src/main.vue"），大文件导致文件计数停滞时仍能看出在推进；wait_ingest 文案分级——「+N 块（活跃）/ 暂无新块（处理大文件，正常）/ 疑似卡住 / ✅ 完成摘要」，一眼判断活性，不再"成功却像卡住"。
  • 配合流式落盘 + 断点续传：进程退出/中断后已导入部分保留，再次导入自动续传。
  • 需要同步执行（脚本/小目录、确定性）可设 FF_PRIVATERAG_SYNC_INGEST=1。
• 📊 进度活性与自救（v0.8）：ingest_status 显示已运行时长、最后更新距今、处理速率，一眼看出在推进还是卡住；后台进程存活但超过 FF_PRIVATERAG_STALE_PROGRESS_SECONDS（默认 180 秒）无更新时会警告"可能卡住"。若导入异常退出/卡死导致无法再导入，用 reset_ingest 一键清理残留锁与状态（不删除已导入数据），即可重新导入。
• 🛡️ 库占用韧性（v0.9）：若上次导入残留僵死进程占着数据库锁，打开库会在 FF_PRIVATERAG_DB_OPEN_TIMEOUT（默认 15 秒）后快速失败并给出恢复指引，而非无限卡死——连只读的 query_knowledge/list_knowledge 也保证秒回提示。恢复方法：reset_ingest（会检测并提示是否仍有僵死进程），必要时彻底关闭所有 Claude Code 窗口再重开。
  • 内置排除目录已扩充：.claude、.idea、.vscode、.vs、.github、public、Pods、DerivedData、vendor、tmp、logs 等，整目录导入更干净。
  • 想只导核心代码：直接导子目录，如 把 D:\项目\src 导入知识库。

检索知识

你：知识库里关于"系统模块划分"是怎么说的？
→ 工具 query_knowledge(query="系统模块划分", n_results=3)
← 找到 3 条相关信息：
   --- 结果 1 (来自: D:\docs\需求文档.md, 作者: zhangsan, 修改: 2026-06-20, 相似度: 0.812) ---
   系统分为用户管理、订单管理...

查看知识库内容（v0.5 新增）

你：知识库里都导入了哪些东西？
→ 工具 list_knowledge()
← 知识库共 12 个文件、347 个文本块：
   1. D:\docs\需求文档.md（21 块, 作者: zhangsan, 修改: 2026-06-20）
   2. D:\src\order.vue（8 块, 作者: lisi, 修改: 2026-06-25）
   ...

🛠️ 本地开发

python -m venv .venv && .venv/Scripts/activate   # Windows
pip install -e .[dev]                            # 可编辑安装 + 测试依赖
pytest                                           # 运行测试
python -m build                                  # 构建分发包到 dist/

📜 版本历史