在 Fireworks 上试用 Ultramarine 1 Flash。它可通过无服务器推理使用，已可在你自己的分析、写作和演示任务上进行测试。
挑战
- 让高质量在大规模下变得可负担。Paper Instruments 需要将前沿闭源模型的分析、写作和演示能力引入一个开源模型，且其推理成本要适合在智能体和应用中更广泛地使用。
- 专业判断难以训练。备忘录、分析和演示文稿没有唯一正确答案。团队需要可靠的训练信号来判断什么样的工作成果是有用的。
- 复杂的强化学习，工程能力有限。扩展到 GLM-5.3 Flash 需要及时的模型支持和高效算力，同时不能分散团队在数据和研发上的精力。
解决方案
- 按专业标准进行训练。Paper Instruments 开发了合成任务和任务专属评分标准，覆盖四个领域和 88 种环境类型。
- 通过 Fireworks Training API 实现研究控制。团队保留了对数据、采样、损失函数和训练循环的控制权。
- 快速 rollout 与高效训练。Fireworks 将优化推理与针对 GLM-5.3 Flash 的 GPU 调优相结合，交付的 rollout 吞吐量超出了 Paper Instruments 的预期。团队预计，在其考虑过的提供商中，Fireworks 的每训练步成本最低。
- 训练与推理协同设计。Fireworks 解决了训练器与 rollout 引擎之间的数值差异问题，这种差异可能扭曲学习过程，从而让 Paper Instruments 能够专注于其数据和强化学习方法。
结果
- 以约 98% 更低的推理成本在得分上超过 Fable 5。在 Paper Instruments 的内部知识工作基准测试中，Ultramarine 得分为 59.3 对 57.8，每任务成本为 $0.13 对 $8.19，使该公司在质量和价格上具备了有竞争力的产品。
- 为智能体构建者打造的差异化模型。Ultramarine 在六项知识工作基准测试中平均比其基础模型高出 4.1 分，为 Paper Instruments 提供了说服构建者的依据，否则这些构建者可能会直接使用基础模型。
- 更快的上市时间。团队估计，仅调优 GPU 配置本身就会让他们延迟一到两周。Fireworks 针对特定模型的优化帮助 Paper Instruments 更快地将 Ultramarine 推向市场。
Paper Instruments正在为专业工作打造领先闭源模型的开源替代方案。其模型专为服务金融服务、法律、会计和业务运营领域专业人士的 AI 智能体和应用而设计。该公司旨在为这些产品的构建者提供专业级能力，同时大幅降低推理成本。
借助 Ultramarine 1 Flash，团队着手教会一个开源模型什么才是优秀的专业工作。Paper Instruments 使用强化学习（RL）训练 GLM-5.3 Flash，围绕分析判断、清晰写作和恰当呈现开发了自己的数据和奖励机制。
Fireworks训练 API让团队能够将其 RL 方法扩展到 GLM-5.3 Flash，同时保持对模型学习方式的控制。Fireworks 提供了快速的 rollout 生成、针对特定模型的 GPU 优化，以及训练与推理之间的数值对齐，从而让 Paper Instruments 有更多时间开发其数据和 RL 方法。在 Paper Instruments 内部的 PI Knowledge Work 基准测试中，Ultramarine 的得分超过了 Fable 5，而每项任务的推理成本约低 98%。
Paper Instruments 需要一种方式来奖励良好的专业判断。对于一份董事会备忘录，可能有多种站得住脚的方式来解释某项建议。围绕单一参考答案构建的评分标准可能会拒绝有效的替代方案；而模糊的评分标准则可能奖励那些文笔润色却遗漏了关键事实的答案。团队必须让评分既精确，又不规定唯一可接受的回答。
其研究人员将合成任务与评分标准一同构建，涵盖四个领域、19 个专业实践领域和 88 种环境类型。他们反复检查任务的真实性、依据性、难度，以及任务说明与其评分标准之间的一致性。
在一个已发布的示例中，模型必须在预测修订后更新一份董事会文件。它需要将新数字贯穿到估值计算中，并区分哪些是董事会可以批准的、哪些仍需要法律审批。完成这项任务需要将修订后的数字与文件中的决策和披露内容进行核对。
联合创始人 Daanish Khazi 还希望模型能够识别其用户的演示标准。投资银行可能想要简洁、精确对齐的幻灯片。直白的文字和克制的设计，与分析质量一起，都是训练目标的一部分。
除了少数几个答案可直接验证的电子表格任务外，训练依赖于基于评分标准的评估。团队在数百次较小模型的实验中测试了不同的数据选择，以制定最终的课程。Khazi 表示，大部分开发预算都用于创建这些数据。在此过程中，研究人员在开发其强化学习方法时，改进了损失函数和长度惩罚。
当 GLM-5.3 Flash 在他们的评估中表现良好时，他们为 Ultramarine 找到了一个有前景的基础。将研究迁移到该模型上带来了一系列新的工程需求。
Paper Instruments 此前一直为其较小模型的实验运行自己的训练基础设施。迁移到 GLM-5.3 Flash 需要在 GPU 配置、并行化和模型专用内核方面做更专业的工作。这些选择影响了训练速度以及团队能够负担多少实验。
团队可以自己做这些工作，但花在调优基础设施上的时间，本可以用来改进其训练数据和强化学习方法。研究人员还需要对自己的实验有信心。如果一次运行停止改进，跨数据、训练方法和底层系统追溯原因，可能会消耗团队无法腾出的时间和算力。
Paper Instruments 需要一个能够处理这些系统需求、同时保留其对研究控制权的训练合作伙伴。Fireworks 在让新模型准备好训练方面的速度，帮助团队从评估一个有前景的模型推进到将其研究付诸实践。
“我们很欣赏 Fireworks 验证新模型并使其可用于训练的速度之快。我们知道性能分析、基准测试和数值对齐需要投入多少工作，所以这种速度对我们来说真的很重要。”- Daanish Khazi，Paper Instruments 联合创始人
随后，团队对支持该模型的提供商进行了基准测试。快速 rollout 推理很重要，因为每个训练周期都需要模型生成用于评估和学习的响应。Khazi 表示，Fireworks 的 rollout 吞吐量超出了团队的预期。基于这些结果，Paper Instruments 预计，在其评估过的提供商中，Fireworks 将提供最佳的每训练步成本。
Paper Instruments 使用 Fireworks Training API 和 Fireworks 推理来运行其 RL 循环的两侧：更新模型，以及生成模型从中学习的响应。Fireworks 针对 GLM-5.3 Flash 对两者都进行了优化，为训练过程带来了快速的 rollout 生成、针对特定模型的 GPU 调优以及数值对齐。研究人员保留了对采样、损失函数和异步训练的控制权，专用算力使他们能够在改进方法时调整 rollout 容量。
Khazi 尤其对 Fireworks 在可用 GPU 上适配并运行模型的方式印象深刻，他将这种规模调整和卸载工作描述为“黑魔法”。他估计，如果让团队自己调优这些 GPU 配置，会延迟一到两周，在一个模型能力快速进步的市场中，这是不小的挫折。
“我们保留了对采样和奖励塑造的完全控制权。我们可以专注于 RL 科学，而不必考虑内核级优化、规模调整和并行化。”- Khazi
这种研究自由还取决于能否信任运行每个实验的系统。Fireworks 将训练器和 rollout 引擎一起开发和验证，检查它们在使用相同模型权重时对相同 token 分配一致的概率。
这些检查有助于发现可能扭曲训练更新的数值差异，这些差异看起来像是数据或学习方法的问题。对 Paper Instruments 而言，这意味着更多时间用于改进其 RL 方法，更少时间用于排查训练与推理之间的不一致。
Khazi 也看重能直接接触 Fireworks 的工程师。当 Paper Instruments 需要更低的 serving 延迟时，Fireworks 团队发现了兼容性问题，并在当天提供了定制的部署配置，还指导如何使用 live merge 来 serving 其训练好的模型。
在 Paper Instruments 内部的 PI Knowledge Work 基准测试中，Ultramarine 1 Flash 得分为 59.3，而 Claude Fable 5 为 57.8，每任务成本分别为 $0.13 和 $8.19。
相对于基础模型的提升体现了专业化的影响。Ultramarine 在所有六项报告的 knowledge-work 基准测试中均优于 GLM-5.3 Flash，平均提升 4.1 分。这些评估涵盖专业交付物、财务分析、股票研究和业务流程自动化。在 Paper Instruments 内部的 PI Knowledge Work 基准测试中，Ultramarine 的得分从 52.0 升至 59.3，提升了 7.3 分。
一些最令人鼓舞的早期反馈涉及 Ultramarine 的写作方式。Khazi 表示，金融服务用户注意到写作更直白，呈现更简洁、更克制。这些反馈反映了团队努力传授的专业标准，从备忘录中清晰的文字到精确对齐、没有多余视觉装饰的幻灯片。
在通过较小模型实验开发出课程体系后，团队在 Fireworks 上完成了 GLM-5.3 Flash 的训练任务，耗时约两周。总开发成本约为 30 万美元，包括该次训练之前的数据创建和实验。团队将资源集中在能让 Ultramarine 脱颖而出的方面：其数据、专业标准和强化学习方法，同时借助 Fireworks 的专业能力来扩展训练和推理。
Ultramarine 1 Flash 已通过无服务器推理在 Fireworks 模型库中提供。开发者使用其 Fireworks 账户和 API 密钥，即可将其用于分析、写作和演示，无需配置 GPU 或管理部署。Paper Instruments 还发布了该模型的权重，让构建者可以灵活地自行部署。
对 Khazi 而言，与 Fireworks 这样的合作伙伴合作，使得围绕模型研究创办公司成为可能。在 Fireworks 支持训练和推理的情况下，Paper Instruments 可以将其研究从实验推进到客户使用，而无需自行构建和运营整个技术栈。
“如果没有一个为不同模型提供优化推理的推理提供商生态系统，我们的商业模式就无法成立。”——Khazi
团队正在继续改进 Ultramarine 1 Flash 以适用于企业工作，基于该模型背后的数据、环境和强化学习方法。团队还将这一方法扩展到更大的模型和美国开发的基础模型上。