English | 中文

My LLM SDK

一套代码，调用多家模型。

用同一套 client.generate() 调用 Gemini / Qwen / Doubao / DeepSeek。
内置预算控制、429 自动重试、Ledger 记账与用量统计。

🚀 快速上手

# 1. 安装
pip install my-llm-sdk

# 2. 初始化项目 (生成 config.yaml)
llm-sdk init

# 3. 编辑 config.yaml，填入你的 API Key
# api_keys:
#   google: "YOUR_KEY"

# 4. 快速调用
llm-sdk generate --model gemini-2.5-flash --prompt "Hello World"

✨ 核心功能

📚 详细用法

🔧 配置

config.yaml（本地，勿提交 Git）

api_keys:
  google: "AIzaSy..."
  dashscope: "sk-..."
  volcengine: "your-key"
daily_spend_limit: 5.0

模块化配置

SDK 自动加载 llm.project.d/*.yaml 中的模型定义：

my-project/
├── llm.project.yaml       # 主配置
└── llm.project.d/
    ├── google.yaml        # Gemini 模型
    ├── qwen.yaml          # Qwen 模型
    └── volcengine.yaml    # Doubao 模型

📊 CLI 命令

# 今日消耗
llm-sdk budget status

# 消耗趋势
llm-sdk budget report --days 7

# 消耗排行
llm-sdk budget top --by model

🧪 测试

# 回归测试（跳过音频测试）
pytest tests/

# 包含音频测试
pytest tests/ -m "audio"

# E2E 完整测试（图像生成 + Vision + 翻译）
python tests/e2e_full_suite.py

# 统一 Benchmark（文本 + 延迟 + 图像）
python scripts/benchmark_unified.py

# 仅文本 Benchmark
python scripts/benchmark_unified.py --skip-image

🗺️ Roadmap

• 核心管控与预算拦截
• Async + Streaming
• 多模态支持 (Vision / TTS / ASR / Image Gen)
• Volcengine Provider (Doubao / DeepSeek)
• 运维报表与 CLI 工具
• 发布到 PyPI

🤝 贡献

1. Fork 本仓库
2. 在 src/my_llm_sdk/providers/ 添加新 Provider
3. 提交 PR

📄 License

Apache 2.0