sotalab-llm-metrics 0.1.0

Thin wrapper around posthog-python's AI integrations. Auto-tags LLM calls with project/service/env for unified cost dashboards.

sotalab-llm-metrics

SoTALab 内部 LLM 成本追踪 SDK（Python）。基于 posthog-python，自动按 project/service/env/model 维度上报调用成本到 PostHog，内置价格表（含 cache tokens、Gemini 分段定价）。

安装

pip install sotalab-llm-metrics
# 或按需带上 provider extras
pip install 'sotalab-llm-metrics[openai,anthropic]'

快速使用

Provider 包装（适合单一 SDK client 生命周期）

from llm_metrics import create_anthropic, create_openai, shutdown

anthropic = create_anthropic()
openai = create_openai()

anthropic.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    messages=[{"role": "user", "content": "hi"}],
)

shutdown()

track_generation（适合多账号轮转、自定义重试等场景）

from llm_metrics import init, track_generation

init()

# 自己调完 LLM 后手动上报
track_generation(
    model="gpt-4o",
    provider="azure",
    input_tokens=150,
    output_tokens=250,
    latency_ms=1200,
    properties={"account": "azure-02", "job_type": "generate-response"},
)

配置（环境变量）

变量	必填	说明
POSTHOG_HOST	✅	PostHog 实例 URL
POSTHOG_PROJECT_API_KEY	✅	PostHog Project API Key
LLM_METRICS_PROJECT	✅	项目名
LLM_METRICS_SERVICE	✅	服务名
LLM_METRICS_ENV	⚪	环境标签（默认 development）
LLM_METRICS_GIT_SHA	⚪	部署版本，便于回归排查

文档

完整文档、架构说明、事件字段契约见 仓库根目录 README。