No project description provided
Project description
Прокси для использования GigaChat вместо OpenAI GPT
Данный проект представляет собой HTTP-прокси, который позволяет подменять использование ChatGPT на GigaChat в тех случаях, когда возможна настройка URL для взаимодействия с ChatGPT. Утилита поддерживает все основные функции взаимодействия с чат-моделями, включая поддержку работы с функциями и асинхронную обработку запросов.
Основные возможности
• Полная замена: утилита подменяет использование ChatGPT на GigaChat, позволяя использовать все его функции.
• Поддержка функций: корректно обрабатываются вызовы функций через API, включая передачу и выполнение функций с аргументами.
• Асинхронный HTTP-прокси: поддерживает многопоточную обработку запросов для эффективной работы с большим количеством клиентов.
• Простота настройки: настройка хоста и порта через аргументы командной строки или переменные окружения.
• Поддержка логирования: режим подробного вывода запросов и ответов для отладки.
Установка
-
Установите библиотеку
pip install git+https://github.com/Rai220/Gpt2Giga.git
-
Настройте переменные окружения, создайте файл .env в корне проекта и укажите необходимые параметры для доступа к GigaChat.
GIGACHAT_USER=
GIGACHAT_PASSWORD=
GIGACHAT_BASE_URL=
GIGACHAT_MODEL=
Остальные настройки подключения к GigaChat можно посмотреть в документации пакета GigaChat: https://github.com/ai-forever/gigachat
Использование
Запуск прокси-сервера:
gpt2giga --host <host> --port <port> --verbose <True/False>
Пример запуска с настройками по умолчанию:
gpt2giga
После запуска сервер будет слушать указанный хост и порт и перенаправлять все запросы, адресованные ChatGPT, на GigaChat.
Пример использования
Приложение, которое взаимодействует с ChatGPT через настраиваемый URL, можно перенаправить на прокси, чтобы оно начало работать с GigaChat. Для этого достаточно указать URL сервера, запущенного через данную утилиту.
Переменные окружения
Вы можете настроить следующие переменные окружения через файл .env:
• GIGACHAT_CREDENTIALS
• GPT2GIGA_VERBOSE: режим вывода подробной информации о запросах и ответах (по умолчанию: True).
Лицензия
Этот проект распространяется под лицензией MIT. См. LICENSE для получения подробной информации.
Этот README файл описывает работу вашей утилиты и содержит все необходимые инструкции для пользователей.
Project details
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.
Source Distribution
Built Distribution
File details
Details for the file gpt2giga-0.0.7.tar.gz
.
File metadata
- Download URL: gpt2giga-0.0.7.tar.gz
- Upload date:
- Size: 6.5 kB
- Tags: Source
- Uploaded using Trusted Publishing? No
- Uploaded via: poetry/1.8.3 CPython/3.12.5 Darwin/23.6.0
File hashes
Algorithm | Hash digest | |
---|---|---|
SHA256 | 7c23ad909faa28449af7aed1b5df3f0dcf11838de5b530d9faa5989aec0b49f3 |
|
MD5 | 24b7df52901aacadf665ab4ab5111650 |
|
BLAKE2b-256 | ebf6edc6fd5cac1f6d74aa888c663d2e65820c03c1defa5f5a58804a6605ac30 |
File details
Details for the file gpt2giga-0.0.7-py3-none-any.whl
.
File metadata
- Download URL: gpt2giga-0.0.7-py3-none-any.whl
- Upload date:
- Size: 7.1 kB
- Tags: Python 3
- Uploaded using Trusted Publishing? No
- Uploaded via: poetry/1.8.3 CPython/3.12.5 Darwin/23.6.0
File hashes
Algorithm | Hash digest | |
---|---|---|
SHA256 | 9b098ae70f384611391ee83bbaf8360d0e531193bc616a0a81486d7feae9ed7b |
|
MD5 | 42467b66544f8ebcb74753c85be29243 |
|
BLAKE2b-256 | 6ac5fb3508b66c0551458c91a889d2a1895b608ff1b7efc8bac1d9390fe1bcf7 |