sitellm 0.1.0

Sitellm= Litellm + Chinese + Security

SiteLLM = LiteLLM + 中文生态 + 安全

一站式开源AI治理中枢平台，安全基座（Security）、智能运营（Intelligence）、全链路追溯（Trace）与生态协同（Ecosystem）四大能力，让企业轻松接入并管理所有AI资产。

架构图

UI

LiteLLM

LiteLLM is an open source AI Gateway that gives you a single, unified interface to call 100+ LLM providers — OpenAI, Anthropic, Gemini, Bedrock, Azure, and more — using the OpenAI format.

OpenAI Proxy Server (LLM Gateway) to call 100+ LLMs in a unified interface & track spend, set budgets per virtual key/user

中文生态

中文界面：更亲切直观

SiteLLM 提供完整的中文界面支持。虽然英文界面也能看懂，但中文界面让操作更加亲切直观，降低使用门槛，尤其适合企业内部推广和快速上手。

SiteLLM 原生支持国内主流大模型，开箱即用：

• 阿里通义千问（Qwen 系列）
• 百度文心一言（ERNIE Bot）
• 智谱清言（GLM 系列）
• 月之暗面 Kimi（Moonshot）
• 科大讯飞星火（Spark）
• Llama.cpp (本地) 以及更多通过 OpenAI 兼容接口接入的国内模型 无需翻墙、无需代理，直接在国内网络环境下调用，延迟低、稳定性好。

中文安全护栏：适配国内场景

原有内置护栏基于英文环境设计，在国内对话场景中实用性有限。升级后，内置护栏全面支持中文内容检测，包括：

• 中文敏感词过滤
• 中文 Prompt 注入检测
• 中文合规内容识别

组织管理：一键接入国内协作平台

后续规划与主流国内协作平台深度集成：

• 飞书：一键同步组织架构、用户身份
• 钉钉：SSO 单点登录、部门权限映射
• 企业微信：通讯录同步、审批流程对接

安全

专业红队+AI代码审计

版本发布经过AI和红队的双重审计才发布，尽可能减少安全风险

安全护栏：灵活绑定，层层防护

1. 虚拟密钥（Virtual Key）绑定
2. 模型（Model）绑定
3. 模型别名（Model Alias）绑定
4. 团队（Team）绑定