openai-forward 0.0.8

No project description provided

OpenAI Forward

简介

OpenAI 接口转发服务.
用途： 解决国内无法直接访问OpenAI的问题，将该服务部署在海外服务器上，通过该服务转发OpenAI的请求。即搭建反向代理服务
测试地址：https://caloi.top/v1/chat/completions

转发接口示例

https://api.openai.com

• /dashboard/billing/usage
• /v1/chat/completions
• /v1/completions
• ......

默认转发所有接口。

应用

这里以个人搭建好的代理地址 https://caloi.top 为例

chatgpt-web

修改 Docker Compose 中的OPENAI_API_BASE_URL为我们搭建的代理服务地址:

OPENAI_API_BASE_URL: https://caloi.top 

ChatGPT-Next-Web

替换docker启动命令中的 BASE_URL为我们搭建的代理服务地址

docker run -d -p 3000:3000 -e OPENAI_API_KEY="sk-xxx" -e CODE="<your password>" -e BASE_URL="caloi.top" yidadaa/chatgpt-next-web

Image Generation (DALL-E):

curl --location 'https://caloi.top/v1/images/generations' \
--header 'Authorization: Bearer sk-***[OUR_API_KEY]***' \
--header 'Content-Type: application/json' \
--data '{
    "prompt": "A photo of a cat",
    "n": 1,
    "size": "512x512",
}'

在模块中使用

Used in JS/TS

import { Configuration } from "openai";

const configuration = new Configuration({
    basePath: "https://caloi.top",
    apiKey: "sk-******",
    
});

Used in Python

import openai
openai.api_base = "https://caloi.top"
openai.api_key = "sk-******"

服务搭建

提供两种服务部署方式,选择一种即可

方式一: pip

安装

pip install openai-forward

运行转发服务
可通过--port指定端口号，默认为8000，可通过--workers指定工作进程数，默认为1

openai_forward run --port=9999 --workers=1

服务就搭建完成了，使用方式只需将https://api.openai.com 替换为服务所在端口http://{ip}:{port} 即可。

当然也可以将 OPENAI_API_KEY 作为环境变量传入作为默认api key， 这样客户端在请求相关路由时可以无需在Header中传入Authorization。 带默认api key的启动方式：

OPENAI_API_KEY="sk-xxx" openai_forward run --port=9999 --workers=1

注: 如果既存在默认api key又在请求头中传入了api key，则以请求头中的api key会覆盖默认api key.

方式二: Docker(推荐)

docker run --name="openai-forward" -d -p 9999:8000 beidongjiedeguang/openai-forward:latest 

将映射宿主机的9999端口，通过http://{ip}:9999访问服务。
注：同样可以在启动命令中通过-e传入环境变量OPENAI_API_KEY=sk-xxx作为默认api key

服务调用

替换openai的api地址为该服务的地址即可，如：

https://api.openai.com/v1/chat/completions

替换为

http://{ip}:{port}/v1/chat/completions