Embed your LLM into a python function
Project description
This readme is generated by command: gpt-readme --path ./llm_as_function --exts py --language 中文 --demand llm_as_function is a python module --out see.md
llm_as_function
Introduction
llm_as_function是一个用于初始化和配置代码库中的LLM(Language Model)功能的Python代码库。它包括子模块和代码文件,提供生成提示、解析输出和与ErnieBot聊天机器人模型交互的功能。
Get Started
要使用llm_as_function代码库,首先需要安装它。可以按照以下步骤进行安装:
pip install llm-as-function
安装完成后,可以使用以下命令行参数来使用代码库:
python -m llm_as_function
Feature
llm_as_function代码库支持以下主要功能:
- 生成提示:通过调用LLMFunc类的__call__方法生成提示。
- 解析输出:使用LLMFunc类和Final变量存储和操作与提示生成和输出解析相关的数据。
- 与ErnieBot聊天机器人模型交互:通过models模块中的函数与ErnieBot聊天机器人模型进行交互。
以下是主要功能的使用场景和使用方式:
- 生成提示:调用LLMFunc类的__call__方法并传入相应参数来生成提示。
- 解析输出:使用LLMFunc类和Final变量提供的方法和属性来解析输出。
- 与ErnieBot聊天机器人模型交互:使用models模块中的函数创建聊天完成。
Implementation
llm_as_function代码库由以下代码文件组成:
- llm_as_function/init.py:该文件从llm_func模块初始化LLMFunc类的实例,将模型设置为"ernie-bot-4",温度设置为0.1。
- llm_as_function/llm_func.py:该文件定义了Final和LLMFunc类,用于存储和操作与提示生成和输出解析相关的数据。它还包括一个model_factory函数,用于确定语言模型的类型。主要功能在LLMFunc类的__call__方法中实现。
- llm_as_function/models.py:该文件实现了与ErnieBot聊天机器人模型交互的函数,包括ernie_single_acreate和ernie_single_create用于创建聊天完成。
- llm_as_function/utils.py:该文件提供处理JSON响应、清理输出和生成模式提示的实用函数。它还为代码库设置了日志记录。
Acknowledgement
llm_as_function代码库使用了以下外部第三方代码库:
- os:提供与操作系统交互的功能。
- json:提供JSON数据的编码和解码功能。
- re:提供正则表达式操作功能。
- typing:提供类型提示功能。
- logging:提供日志记录功能。
感谢以上第三方代码库的贡献。
Project details
Release history Release notifications | RSS feed
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.