chatllm 2023.4.26.11.22.47

Create a Python package.

🔥ChatLLM🔥

Install

pip install -U chatllm

Docs

Usages

from chatllm.applications import ChatBase

qa = ChatBase()
qa.load_llm4chat(model_name_or_path="THUDM/chatglm-6b")

for i, _ in qa(query='周杰伦是谁', knowledge_base='周杰伦是傻子'):
    pass
# 根据已知信息无法回答该问题，因为周杰伦是中国内地流行歌手、演员、音乐制作人、导演，
# 是具有一定的知名度和专业能力的人物，没有提供足够的信息无法判断他是傻子。

Click to ChatPDF

pass

---

TODO

• 增加UI

• 增加ChatPDF

• 增加本地知识库组件

• 增加互联网搜索组件

• 增加知识图谱组件

• 增加微调模块

• 增加流式输出

• 增加http接口

• 增加grpc接口

---

ChatGLM-6B Mac 本地部署实操记录

======= History

0.0.0 (2023-04-11)

• First release on PyPI.