GPUniq 0.1.2

Python client for GPUniq LLM API

Описание проекта

GPUniq

GPUniq — Python-клиент для доступа к GPUniq LLM API. Обеспечивает простое и удобное взаимодействие с различными языковыми моделями через единый интерфейс.

📌 Официальный сайт: gpuniq.ru

---

🚀 Возможности

🤖 Множество LLM-моделей — доступ к OpenAI, GLM и другим моделям через единый API. 💬 Простой интерфейс — всего пара строк кода для отправки запросов. ⚡ Быстрые запросы — обработка запросов с настройкой таймаутов. 🔐 Безопасность — аутентификация через API-ключи. 📊 Мониторинг токенов — отслеживание использованных и оставшихся токенов.

---

📚 Установка

Установите библиотеку через PyPI:

pip install GPUniq

---

🛠️ Начало работы

1️⃣ Инициализация клиента

Подключите GPUniq к вашему проекту:

import gpuniq

# Инициализация клиента с API-ключом
client = gpuniq.init("gpuniq_your_api_key_here")

2️⃣ Простой запрос к LLM

Отправьте сообщение в языковую модель:

response = client.request(
    "openai/gpt-oss-120b",
    "Привет, как дела?"
)
print(response)

3️⃣ Обработка ошибок

Обрабатывайте ошибки API:

from gpuniq import GPUniqError

try:
    response = client.request("invalid-model", "Hello!")
    print(response)
except GPUniqError as e:
    print(f"Ошибка: {e.message}")
    print(f"Код ошибки: {e.error_code}")
    print(f"HTTP статус: {e.http_status}")

При использовании несуществующей модели автоматически выводится список доступных моделей:

Ошибка: Несуществующая модель

Доступные модели:
  - zai-org/GLM-4.6
  - openai/gpt-oss-120b
  - Qwen/Qwen3-Coder-480B-A35B-Instruct
  ...

---

🛠️ API Методы

Метод	Описание
init(api_key)	Инициализирует клиент с API-ключом
request(model, message)	Отправляет запрос к LLM

Детальное описание методов

gpuniq.init(api_key: str) -> GPUniqClient

Инициализирует и возвращает клиент GPUniq.

Параметры:

• api_key (str): Ваш API-ключ GPUniq (начинается с 'gpuniq_')

Возвращает:

• GPUniqClient: Экземпляр клиента

---

GPUniqClient.request(model: str, message: str, role: str = "user", timeout: int = 30) -> str

Отправляет простой запрос к языковой модели.

Параметры:

• model (str): Идентификатор модели (например, 'openai/gpt-oss-120b')
• message (str): Текст сообщения
• role (str, опционально): Роль сообщения (по умолчанию: 'user')
• timeout (int, опционально): Таймаут запроса в секундах (по умолчанию: 30)

Возвращает:

• str: Ответ от языковой модели

---

🎯 Доступные модели

• zai-org/GLM-4.6
• openai/gpt-oss-120b
• Qwen/Qwen3-Coder-480B-A35B-Instruct
• Qwen/Qwen3-235B-A22B-Instruct-2507
• Qwen/Qwen3-Next-80B-A3B-Instruct
• Qwen/QwQ-32B
• Qwen/Qwen2.5-Coder-32B-Instruct
• deepseek-ai/DeepSeek-R1-Distill-Llama-70B
• meta-llama/Llama-3.3-70B-Instruct
• t-tech/T-lite-it-1.0
• t-tech/T-pro-it-1.0
• t-tech/T-pro-it-2.0

---

📝 Лицензия

Этот проект распространяется под лицензией MIT.

📌 Официальный сайт: gpuniq.ru 📌 PyPI: GPUniq на PyPI 📌 GitHub: GPUniq на GitHub