moss-tts-lite

MOSS-TTS-v1.5 的极简推理库：4 个依赖、单卡可跑（8GB 起）、输出与官方实现 bitwise 一致。

pip install moss-tts-lite

一句话合成语音：

moss-tts-lite "你好，欢迎使用。" -o out.wav --model-dir /path/to/W4GPTQ-w1

它是什么

安装

# 1) 先装 CUDA 版 torch（按你的 CUDA 版本选索引；>= 2.5）
pip install torch --index-url https://download.pytorch.org/whl/cu128

# 2) 装本库
pip install moss-tts-lite

torch 2.4 及以下仅支持 bf16 eager 路径（量化档需 2.5+，实测跨版本轨迹一致）； 图化 fast 路径需 CUDA，纯 CPU 下（--device cpu）CLI 会自动回退到 eager。

模型权重（三选一）

# Hugging Face
huggingface-cli download baicai1145/MOSS-TTS-v1.5-W4GPTQ-w1 --local-dir ./W4GPTQ-w1
# 或 ModelScope
modelscope download --model baicai1145/MOSS-TTS-v1.5-W4GPTQ-w1 --local_dir ./W4GPTQ-w1

用法

# 量化档（默认 w1p：82 步/s，质量十语言验证 99.5%）
moss-tts-lite "要合成的文本" -o out.wav --model-dir ./W4GPTQ-w1

# 英文（带语言标签更稳）
moss-tts-lite "Hello world." -o en.wav --model-dir ./W4GPTQ-w1 --language English

# 停顿控制
moss-tts-lite "先别急——[pause 1s]我们再想想。" -o pause.wav --model-dir ./W4GPTQ-w1

# 极速档（97 步/s，非 bitwise，统计等价）
moss-tts-lite "文本" -o out.wav --model-dir ./W4GPTQ-w1 --fast-native

# 固定种子复现
moss-tts-lite "文本" -o out.wav --model-dir ./W4GPTQ-w1 --seed 1234

默认就是快路径（v1.1.0 起）：裸命令行直接走 CUDA Graph 解码（moss_tts_lite.fast）， 与 eager 参照逐位一致。旧脚本里的 --fast 仍被接受，但已是 no-op（打印一行提示）。 要跑慢的 eager 参照路径请显式加 --eager（仅调试用）。

Python API：

from moss_tts_lite.cli import synthesize

wav, sr, res, strategy = synthesize(
    "你好。", output="out.wav",
    model_dir="./W4GPTQ-w1",   # standalone 目录
    quant="w4gptq",             # 或 None=bf16（需原版权重）
    seed=1234,
    # fast=True 是默认（与 CLI 一致）；只有显式 fast=False 才是 eager 参照路径
)

档位速查

*A10G 实测；4090 约按带宽等比提升。

8GB 卡注意：加 --max-new-tokens 2048（约 164 秒音频容量），详见 --help。

三路径的关系：默认 fast（逐位一致）、--fast-native（更快，非逐位）、--eager（慢参照）。 eager 路径本体仍保留在 API 层——直接调用 moss_tts_lite.generate / MossTTSModel.step 的代码不受本次默认翻转影响，只是 CLI 不再默认走它。

常见问题

生成的音频不结束/一直静音？ 内置看门狗 v2 会自动截断（默认开启，--no-watchdog 关闭）。这是 RTN 量化档的已知风险，GPTQ 档 0/32 复现。

CUDA 装不上？ torch 必须从 pytorch 官方索引装（见安装节），PyPI 上的 torch 默认包可能不带你的 CUDA 版本。

Windows？ 支持但未在真机验证（Linux 验证 + API 全兼容）。遇到问题提 issue。

更多

• 完整技术文档（量化方法、验证方法论、性能分析）：GitHub
• 模型卡与量化验证报告：随模型仓库发布
• License：Apache-2.0（继承 MOSS-TTS 上游）