Reka 发布了 Rho-1 的研究预览版,这是一个从零开始训练的 19B 全模态推理模型。单个神经网络能够理解并生成文本、图像和视频,对它们进行推理,并输出机器人动作。Reka 将其定位为可直接替代在特定模态模型之间传递工作的智能体流水线。
Rho-1 改变了什么
如今大多数多模态系统都是流水线式的。一个中心模型负责规划,然后把任务交给图像、视频或检测方面的专家模型。每次交接都会增加延迟,而且每个专家模型只能看到一小部分请求。
Rho-1 消除了这些交接。文本、视觉和机器人动作都成为同一个上下文窗口内的 token。根据 Reka 的研究,一个未经剪辑的会话展示了完整的闭环。模型画出一座灯塔,为其加上边界框,将其动画化,把视频编辑成暴风雪场景,并解释其中的差异。这一切都在 5 轮内完成,没有工具调用,也没有第二个模型。
架构:两条流,一个 KV 缓存
每个输入和输出都使用两种原生格式之一:
离散 token 承载文本、符号推理和高层命令。
连续 token 承载图像潜变量、视频帧、机器人动作和本体感觉。
每个 transformer 块包含两组专家权重流。理解流负责语言和视觉解析。生成流负责将潜变量去噪为图像和视频。两条流共享注意力,并在同一个 KV 缓存上运行。
当回复需要像素时,理解流会发出一个离散的交接 token。生成流随后根据完整累积的状态进行渲染。训练将离散序列的下一 token 预测与连续输出的流匹配相结合。
这种设计有实际效果。边界框以坐标 token 的形式输出,而非来自单独的检测器。视频的第一帧复用上下文中的图像表示,而不是重新编码的副本。
速度:基础版 vs 蒸馏版
基础模型生成视频的速度为实时的 0.79 倍(中位数),大约 6 秒后即可开始观看流。Reka 团队测得首个片段耗时 7.0 秒,而作为对比示例的多智能体流水线为 13.8 秒。
蒸馏变体将去噪步骤从 99 步减少到 8 步,据报告质量损失极小。它在约一秒内返回了一段 5.3 秒的片段。在 Reka 的内部测试中,它匹配了最快的专用图像模型。它也是测试中最快生成首个文本 token 的模型。这些是厂商自行运行的测试,并非独立基准测试。
世界模型与机器人技术
Rho-1 连续流式输出,一段接一段。新指令通过理解流进入,并在 rollout 中途更新状态。Reka 演示了一个开场分叉为“左倾”和“右倾”的延续。
对于机器人技术,动作和未来帧从同一潜在状态解码。一个 LIBERO 仿真回合显示 Rho-1 输出 7 个动作通道。为了在稀缺的遥操作日志之外扩展规模,Reka 将 Rho-1 与其逆动力学模型配对,后者从原始视频中推断控制信号。
Rho-1 对比
数据于 2026 年 10 月 5 日从官方来源核实。
特性Reka Rho-1ByteDance BAGELBAAI Emu3.5Google Genie 3开发者RekaByteDance SeedBAAIGoogle DeepMind参数量19B总计 14B,激活 7B(MoT)34B未披露输入文本、图像、视频、动作、本体感觉文本、图像交错的文本和图像文本提示、导航输入输出文本、图像、视频、动作、本体感觉文本、图像交错的文本和图像交互式视频世界原生视频生成是,上限 672×384否否(图像帧,非原生片段)是,720p 24 fps实时操控是,连续 rollout否否是,可提示的世界事件机器人动作原生连续动作 token否具身操作演示接受导航动作,不输出开源权重否是,Apache 2.0是,Apache 2.0否今日获取方式通过 contact@reka.ai 获取研究预览Hugging Face、GitHubHugging Face、emu.world 应用Project Genie 面向 Google AI Ultra 订阅者来源/资源Reka 博客GitHubHugging FaceDeepMind 博客
Genie 3 的获取方式依据 Project Genie;Emu3.5 的参数量依据其 Hugging Face 模型卡。
关键要点
Rho-1 是一个 19B 模型,可读写文本、图像、视频和机器人动作。
两个专家流在每个块中共享注意力和一个 KV 缓存。
蒸馏将去噪步骤从 99 步减少到 8 步,每段 5.3 秒的片段约需 1 秒。
在 320 块 H100 上训练了 3 个月;视频上限为 672×384。
仅限研究预览:尚无公开权重、API 或定价。
查看技术细节以及 X 上的公告。所有功劳都归于该项目的研究人员。也欢迎在 Twitter 上关注我们,别忘了加入我们拥有 150k+ 成员的 ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们了。
需要与我们合作推广你的 GitHub Repo 或 Hugging Face Page 或产品发布或网络研讨会等?联系我们
文章 Reka Releases Rho-1: A 19B Omni-Reasoning Model That Understands, Generates Video and Outputs Robot Actions in One 首次出现在 MarkTechPost 上。