No project description provided
Project description
OpenAI forwarding agent
简介
openai 接口转发服务.
用途:
解决国内无法直接访问OpenAI的问题,将该服务部署在海外服务器上,通过该服务转发OpenAI的请求。即搭建反向代理服务
已实现转发的接口
https://api.openai.com
-
/dashboard/billing/credit_grants
-
/v1/chat/completions
-
/v1/models
-
/v1/models/{model}
-
/v1/completions
-
/v1/edits
服务部署
提供两种服务部署方式,选择一种即可
方式一: pip
安装
pip install openai-forward
运行转发服务
可通过--port
指定端口号,默认为8000
,可通过--workers
指定工作进程数,默认为1
openai_forward run --port=8000 --worders=1
方式二: Docker compose
下载项目根目录下的docker-compose.yaml
文件,然后在文件路径下执行以下命令即可。
docker-compose up -d
服务调用
替换openai的api地址为该服务的地址即可,如:
https://api.openai.com/v1/chat/completions
替换为
http://{ip}:{port}/v1/chat/completions
个人搭建的代理服务(仅供测试):
http://2.56.125.247:9999/v1/chat/completions
http://2.56.125.247:9999/dashboard/billing/credit_grants
应用
例如可以在项目 chatgpt-web 中使用该服务
以其 Docker Compose 启动方式为例,只需修改其中的OPENAI_API_BASE_URL
为我们搭建的代理服务地址即可:
OPENAI_API_BASE_URL: http://2.56.125.247:9999
Project details
Release history Release notifications | RSS feed
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.
Source Distribution
openai_forward-0.0.3.tar.gz
(7.7 kB
view hashes)
Built Distribution
Close
Hashes for openai_forward-0.0.3-py3-none-any.whl
Algorithm | Hash digest | |
---|---|---|
SHA256 | d5cf1bfe28fee1950e6b7f789319d3b269d9c3fc216ccac3ea5e50aef7fe78e7 |
|
MD5 | e8af4cf8aac3c0ed209655dddb47ce53 |
|
BLAKE2b-256 | f20d3bd89b4634095a0c2280a30210712d294bd32c5e560f610f53db260f4b30 |