将智谱AI集成到LangChain
Project description
为什么要开发这个包?
为了方便在 langchain 中使用,在官方SDK基础上做了如下额外工作:
- 问题1: 智谱AI的官方SDK使用了 pydantic v2,这与 langchain(尤其是langserve)不兼容
- 问题2: langchain.community 的国内包更新不及时,无法在 langchain 的 LCEL 语法中使用
已支持全部 langchain 接口
- invoke
- ainvoke
- batch
- abatch
- stream
- astream
- astream_events
- asteram_log
已支持模型能力
- 已支持生成模型:"glm-3-turbo", "glm-4", "glm-4v"
- 已支持向量模型:"embedding-2"
- 逻辑推理和对话生成
- 支持工具回调
使用
简单的例子
from langchain_zhipu import ChatZhipuAI
llm = ChatZhipuAI()
# invoke
llm.invoke("hi")
# stream
for s in llm.stream("hi"):
print(s)
# astream
async for s in llm.astream("hi"):
print(s)
使用glm-4v
from langchain_zhipu import ChatZhipuAI
from langchain_core.prompts import ChatPromptTemplate
llm4v = ChatZhipuAI(model="glm-4v")
prompt = ChatPromptTemplate.from_messages([
("human", [
{
"type": "text",
"text": "图里有什么"
},
{
"type": "image_url",
"image_url": {
"url" : "https://img1.baidu.com/it/u=1369931113,3388870256&fm=253&app=138&size=w931&n=0&f=JPEG&fmt=auto?sec=1703696400&t=f3028c7a1dca43a080aeb8239f09cc2f"
}
}
]),
])
(prompt|llm4v).invoke({})
智能体
请查看 agent.ipynb
更多用法
官方接口指南 智谱开放平台大模型接口 Python SDK(Big Model API SDK in Python),让开发者更便捷的调用智谱开放API
Project details
Release history Release notifications | RSS feed
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.
Source Distribution
langchain_zhipu-4.0.16.tar.gz
(20.7 kB
view hashes)
Built Distribution
Close
Hashes for langchain_zhipu-4.0.16-py3-none-any.whl
Algorithm | Hash digest | |
---|---|---|
SHA256 | 7f4d9a0617bc7ace87d94b9a5f3d557c9e5346ce0c73f5996232f838b6d38c87 |
|
MD5 | 4528a8c14c0ba2c6799a3a0f768a63b3 |
|
BLAKE2b-256 | b801cb320560cc0546bc22dbc7124bdd1af55c4b548134b0388c5ac2081d2fd3 |