为什么要开发这个包？

为了方便在 langchain 中使用，langchain_zhipu 直接使用官方 HTTP 接口实现，并避免了如下的现存问题：

• 问题 1: 智谱 AI 的官方 SDK 使用了 pydantic v2，这与 langchain（尤其是 langserve）不兼容
• 问题 2: langchain.community 的国内包更新不及时，无法在 langchain 的 LCEL 语法中使用

能力支持

已支持全部 langchain 接口

1. invoke
2. ainvoke
3. batch
4. abatch
5. stream
6. astream
7. astream_events
8. asteram_log

已支持模型能力

• 已支持生成模型："glm-3-turbo", "glm-4", "glm-4v"
• 已支持向量模型："embedding-2"
• 已支持官方知识库管理能力：对知识库、文档、应用做增删改查
• 已支持基于官方知识库的大模型对话
• 支持工具回调：普通工具，以及在线知识库和网络搜索
• 支持智能体
• 支持 RAG

使用

配置

可以将申请到的 API_KEY 配置到环境变量 ZHIPUAI_API_KEY。

建议使用 .env 文件来管理环境变量，这需要安装 python_dotenv 包：

pip install python_dotenv

你的 .env 文件：

ZHIPUAI_API_KEY="你的KEY"

然后在你的代码目录中：

# 加载 .env 到环境变量
import os
from dotenv import load_dotenv, find_dotenv
load_dotenv(find_dotenv(), override=True)

安装 langchain_zhipu

pip install langchain langchain_zhipu

其中，langchain 只要 v0.1.0 ，而 langchain_zhipu 最好安装最新的 4.1.x 版本。

代码例子

• 基本用法 usage.ipynb
• 智能体 agent.ipynb
• 向量模型 embedding.ipynb
• 模型统计 tokens.ipynb
• 知识库 knowledge.ipynb
• 知识库应用 knowledge_app.ipynb
• textlong+智谱

官方接口指南 智谱开放平台

简单的例子

from langchain_zhipu import ChatZhipuAI
llm = ChatZhipuAI()

# invoke
llm.invoke("hi")

# stream
for s in llm.stream("hi"):
  print(s)

# astream
async for s in llm.astream("hi"):
  print(s)

retrieval 工具

from langchain_zhipu import convert_to_retrieval_tool
llm.bind(tools=[convert_to_retrieval_tool(knowledge_id="1772979648448397312")]).invoke("你知道马冬梅住哪里吗？")

web_search 工具

from langchain_zhipu import convert_to_web_search_tool
llm.bind(tools=[convert_to_web_search_tool(search_query="周星驰电影")]).invoke("哪部电影好看？")

function 工具

from langchain_core.utils.function_calling import convert_to_openai_tool
from langchain.tools import tool

@tool
def search(query: str) -> str:
    """查询 langchan 资料; args: query 类型为字符串，描述用户的问题."""
    return "langchain_chinese 是一个为中国大模型优化的langchain模块"

llm.bind(tools=[convert_to_openai_tool(search)]).invoke("langchain_chinese是啥？请查询本地资料回答。")

使用 glm-4v

from langchain_zhipu import ChatZhipuAI
from langchain_core.prompts import ChatPromptTemplate

llm4v = ChatZhipuAI(model="glm-4v")

prompt = ChatPromptTemplate.from_messages([
    ("human", [
          {
            "type": "text",
            "text": "图里有什么"
          },
          {
            "type": "image_url",
            "image_url": {
                "url" : "https://img1.baidu.com/it/u=1369931113,3388870256&fm=253&app=138&size=w931&n=0&f=JPEG&fmt=auto?sec=1703696400&t=f3028c7a1dca43a080aeb8239f09cc2f"
            }
          }
        ]),
])

(prompt|llm4v).invoke({})