openai-forward 0.0.4

No project description provided

OpenAI forwarding agent

简介

openai 接口转发服务.
用途： 解决国内无法直接访问OpenAI的问题，将该服务部署在海外服务器上，通过该服务转发OpenAI的请求。即搭建反向代理服务 测试地址：http://2.56.125.247:9999/v1/chat/completions

已实现转发的接口

https://api.openai.com

• /dashboard/billing/usage
• /dashboard/billing/credit_grants
• /v1/chat/completions
• /v1/completions
• /v1/models
• /v1/models/{model}
• /v1/edits

服务部署

提供两种服务部署方式,选择一种即可

方式一: pip

安装

pip install openai-forward

运行转发服务
可通过--port指定端口号，默认为9999，可通过--workers指定工作进程数，默认为1

openai_forward run --port=9999 --worders=1

当然也可以将 OPENAI_API_KEY 作为环境变量传入作为默认api key， 这样客户端在请求相关路由时可以无需在Header中传入Authorization。 带默认api key的启动方式：

OPENAI_API_KEY="sk-xxx" openai_forward run --port=9999 --worders=1

注: 如果既存在默认api key又在请求头中传入了api key，则以请求头中的api key会覆盖默认api key.

方式二: Docker compose

下载项目根目录下的docker-compose.yaml文件，然后在文件路径下执行以下命令即可。

docker-compose up -d

注：同样可以在docker-compose.yaml文件中传入环境变量OPENAI_API_KEY=sk-xxx作为默认api key

服务调用

替换openai的api地址为该服务的地址即可，如：

https://api.openai.com/v1/chat/completions

替换为

http://{ip}:{port}/v1/chat/completions

个人搭建的代理服务(仅供测试, 不带默认api key):
http://2.56.125.247:9999/v1/chat/completions

应用

例如可以在项目 chatgpt-web 中使用该服务
以其 Docker Compose 启动方式为例，只需修改其中的OPENAI_API_BASE_URL为我们搭建的代理服务地址即可：

OPENAI_API_BASE_URL: http://2.56.125.247:9999