本周,Fish Audio 发布了 Fish Audio Drama 3。Drama 3 是 Fish Audio 的一款文本转语音模型,可接受自然语言表演指令。它是一个 35B 的混合专家模型,每个 token 约激活 3B 参数。权重已发布在 Hugging Face 上,该模型也已在 Fish Audio API 中上线。对开发者而言,它是一个可自托管的选项,适用于脚本化对白、有声书和配音。

TL;DR

规模:总参数 35B,每个 token 约激活 3B(256 个专家中的 8 个,外加 1 个共享专家)。上下文长度:未披露。

运行环境:1 块 NVIDIA GPU,FP8 下至少 48 GB。不支持 CPU、Apple MPS 或 AMD ROCm。官方基准测试使用 1 块 H200。

性能:Fish Audio 在 Artificial Analysis 上得分最高的模型,但在质量 Elo 上仍落后于多个闭源 API。

最佳:在 Artificial Analysis Pronunciation Robustness 的品牌、地名和技术术语上达到 95.9%。

最差:在精确序列(代码、路径、电子邮件)上为 86.3%,是其最弱的发音类别。

总结:

最佳:可导演、多说话人的语音,且权重开源。

最差:48 GB GPU 门槛,以及收入上限许可。

什么是 Fish Audio Drama 3?

Drama 3 将脚本连同方括号中的指令转化为带表演的语音。作者在台词前放置诸如 [barely holding it together] 的提示。根据 Drama 3 文档,诸如 <whisper> 这样的成对标签只改变被包裹的词语。指令可以用任何语言书写,与所说台词无关。

该模型支持 83 种语言。说话人标签 <|speaker:0|> 到 <|speaker:15|> 允许在 1 次请求中最多 16 个角色。API 为每个说话人接收 1 个语音 ID,因此整个场景可在单次调用中渲染。

Drama 3 的架构如何工作?

根据发布文章,其主干从 Qwen3.5-35B-A3B 语言模型开始。它有 40 层,按每 1 层门控全注意力层配 3 层 Gated DeltaNet 层分组。每 4 层中只有 1 层保留 KV 缓存。DeltaNet 层则以恒定大小的状态存储历史。

新的 Codebook-MTP 解码器取代了 S2 中使用的逐帧 Fast AR 解码器。它有 4 个共享层,馈入 9 层,每个声学码本 1 层。只有码本 0 和 1 反馈到主干;S2 则反馈全部 10 个。

音频分词器与 S2 相比未变。它基于 Descript Audio Codec 构建,输出 44.1 kHz 音频。它以约 21.5 帧/秒的速度运行。

训练经历了 3 个预训练阶段,然后是指令微调,然后是强化学习。强化学习使用了不带 KL 惩罚的 GRPO 以及单个学习到的人类偏好奖励模型。

Drama 3 在基准测试上表现如何?

Fish Audio 报告 Drama 3 在 Artificial Analysis Pronunciation Robustness 上总体达到 93.2%,排名第 1。其前代 S2.1 Pro 得分为 88.1%。人类听众对 4 个类别中的难读英文单词进行评判:

品牌、地名、技术术语:95.9%(S2.1 Pro:87.3%)

依赖上下文的读音:95.3%(86.1%)

数字、日期和单位等简写:93.6%(92.7%)

代码、路径和电子邮件等精确序列:86.3%(79.4%)

该基准测试考察的是发音,而非情感表达。Fish Audio 仅定性地描述情感质量。在 Artificial Analysis 质量排行榜上,&#8216;Drama 3 Preview&#8217; 的 Elo 为 1242。这超过了 S2.1 Pro 的 1190,但落后于 Eleven v4 Turbo 的 1328。

Drama 3 需要什么硬件?

Fish Speech 安装指南列出在 FP8 下至少需要 48 GB 的 NVIDIA GPU 显存。不支持 CPU、Apple MPS 和 AMD ROCm。MoE 专家以 FP8 提供,其余权重为 bf16。

模型卡报告了在 1 块 H200 上的流式结果。在 1 路流下,首音频中位时间为 88.9 ms,实时因子为 0.131。在 16 路流下,吞吐量达到 927.6 帧/秒。服务通过 SGLang-Omni 运行,其融合内核仅在 Hopper GPU 上经过验证。

如何访问 Drama 3,费用是多少?

在托管 API 中,在 POST /v1/tts 上将模型标头设置为 drama-3。文档警告说,标头缺失或拼写错误会静默回退到 s2.1-pro。标价为每 1M 字符 50 美元。根据发布文章,10 美元的发布价持续到 2026 年 11 月 12 日。

权重使用 Fish Audio Community License v1.0。研究和非商业用途免费。年收入低于 500,000 美元的商业用途免费。将 Drama 3 作为第三方 API 托管需要单独的许可证。产品必须显示“Built with Fish Audio.”。禁止未经同意克隆真实声音。

Drama 3 与最接近的竞品对比

功能Fish Audio Drama 3Fish Audio S2 ProElevenLabs Eleven v4 TurboQwen-Audio-3.0-TTS-Plus总规模35B (MoE)5B (4B Slow AR + 400M Fast AR)未披露未披露激活参数~3B非 MoE未披露未披露权重开放,Community License v1.0开放,Research LicenseAPI 和应用API (Model Studio)语言8380+90+列出 8 种,外加方言自托管硬件48 GB+ NVIDIA,FP8 24 GB+ NVIDIA,或 CPU仅托管仅托管延迟88.9 ms TTFA p50,H200~100 ms TTFA,H200~150 ms 首个语音中位时间未披露AA 质量 Elo(来源)1242 (Preview)111613281266API 价格每 1M 字符$50 标价,11 月 12 日前 $10$15$40$20,新加坡

关键要点

Drama 3 是一个 35B MoE TTS 模型,激活参数约 3B。

通俗语言指令和每次请求 16 个说话人面向脚本化音频。

AA Pronunciation Robustness 上为 93.2%;精确序列落后,为 86.3%。

自托管在 FP8 下需要 48 GB+ 的 NVIDIA 显存。

免费商业用途在年收入 500,000 美元处停止。

在 Hugging Face 上查看权重、技术报告、GitHub 仓库和发布文章。所有功劳归于该项目的研究者。另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。

文章 Fish Audio Releases Drama 3, a 35B Open-Weight MoE Text-to-Speech Model 首次出现在 MarkTechPost 上。