基于微软GraphRAG,支持使用百度千帆、阿里通义、Ollama等模型
Project description
GraphRAG More
基于 微软GraphRAG ,支持使用百度千帆、阿里通义、Ollama本地模型。
可以先熟悉一下微软官方的demo教程:👉 微软官方文档
使用步骤如下:
要求 Python 3.10-3.12,建议使用 pyenv 来管理多个python版本
1. 安装 graphrag-more
pip install graphrag-more
如需二次开发或者调试的话,也可以直接使用源码的方式,步骤如下:
下载 graphrag-more 代码库
git clone https://github.com/guoyao/graphrag-more.git安装依赖包 这里使用 poetry 来管理python虚拟环境
# 安装 poetry 参考:https://python-poetry.org/docs/#installation cd graphrag-more poetry install
2. 准备demo数据
# 创建demo目录
mkdir -p ./ragtest/input
# 下载微软官方demo数据
curl https://www.gutenberg.org/cache/epub/24022/pg24022.txt > ./ragtest/input/book.txt
3. 初始化demo目录
python -m graphrag.index --init --root ./ragtest
4. 移动和修改 settings.yaml 文件
根据选用的模型(千帆、通义、Ollama)将 example_settings 文件夹对应模型的 settings.yaml 文件复制到 ragtest 目录,覆盖初始化过程生成的 settings.yaml 文件。
# 千帆
cp ./example_settings/qianfan/settings.yaml ./ragtest
# or 通义
cp ./example_settings/tongyi/settings.yaml ./ragtest
# or ollama
cp ./example_settings/ollama/settings.yaml ./ragtest
每个settings.yaml里面都设置了默认的 llm 和 embeddings 模型,根据你自己要使用的模型修改 settings.yaml 文件的 model 配置
- 千帆默认使用 qianfan.ERNIE-4.0-Turbo-8K 和 qianfan.bge-large-zh ,注意:必须带上 qianfan. 前缀 !!!
- 通义默认使用 tongyi.qwen-plus 和 tongyi.text-embedding-v2 ,注意:必须带上 tongyi. 前缀 !!!
- Ollama默认使用 ollama.mistral:latest 和 ollama.quentinz/bge-large-zh-v1.5:latest ,注意:<=0.3.0版本时,其llm模型不用带前缀,>=0.3.1版本时,其llm模型必须带上 ollama. 前缀,embeddings模型必须带 ollama. 前缀 !!!
5. 构建前的准备
根据选用的模型,配置对应的环境变量,若使用Ollama需要安装并下载对应模型
- 千帆:需配置环境变量 QIANFAN_AK、QIANFAN_SK ,如何获取请参考官方文档
- 通义:需配置环境变量 TONGYI_API_KEY ,如何获取请参考官方文档
- Ollama:
- 安装:https://ollama.com/download ,安装后启动
- 下载模型
ollama pull mistral:latest ollama pull quentinz/bge-large-zh-v1.5:latest
6. 构建索引
python -m graphrag.index --root ./ragtest
构建过程可能会触发 rate limit (限速)导致构建失败,重复执行几次,或者尝试调小 settings.yaml 中 的 requests_per_minute 和 concurrent_requests 配置,然后重试
7. 执行查询
# global query
python -m graphrag.query \
--root ./ragtest \
--method global \
"What are the top themes in this story?"
# local query
python -m graphrag.query \
--root ./ragtest \
--method local \
"Who is Scrooge, and what are his main relationships?"
查询过程可能会出现json解析报错问题,原因是某些模型没按要求输出json格式,可以重复执行几次,或者修改 settings.yaml 的 llm.model 改用其他模型
Project details
Release history Release notifications | RSS feed
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.
Source Distribution
Built Distribution
Hashes for graphrag_more-0.3.2-py3-none-any.whl
Algorithm | Hash digest | |
---|---|---|
SHA256 | 5420ee0d9ac05e823530dea116cef7c98a0e99418424d82ed0ec72a3d61eb79f |
|
MD5 | 53e0feb259b811b9aed8b74e102eab1c |
|
BLAKE2b-256 | aa374d78ab1cac4792ead61095f59bf34bd4eb12b77e0a6b29ca33ddecf04821 |