#强化学习

全部资讯模型
清除条件
共 11 条
Techmeme2 天前资讯行业动态海外

Hyphenate 融资 4500 万美元,用强化学习 Agent 做企业财务

Hyphenate Inc. 完成 4500 万美元 A 轮融资,由 Nexus Venture Partners 领投,累计融资额达到 5400 万美元。该公司开发由强化学习驱动的 AI Agent,用于自动化企业财务任务。原文信息有限,未披露估值、客户数量与产品上线时间。

推荐理由做财务自动化或企业 Agent 的团队,可参考这条赛道当前的融资节奏与领投方

MarkTechPost10/22模型论文研究海外

Perplexity 与 NVIDIA 提出 JOLT:教师学生联合强化学习

Perplexity 与 NVIDIA 团队提出后训练方法 JOLT(Joint On-policy Learning and Teaching),让同一个模型同时扮演教师和学生两个角色:教师能看到特权信息,学生看不到,而且教师本身也会被训练,以保证其反馈始终可用。在 MATH 上,JOLT 达到 GRPO 的准确率,但处理的训练 token 少 6.5 倍。测试覆盖 Qwen3-0.6B、Qwen3-4B-Instruct、Qwen3-8B、Qwen3-30B-A3B-Instruct 和 DeepSeek-V2…

推荐理由做 RL 后训练可省 6.5 倍 token,AppWorld 通过率高 9.9 个百分点

Modal10/21资讯产品发布/更新海外

Modal 发布 Dojo:不到 100 行代码训练 LLM

Modal 推出开源训练库 Modal Dojo,用于生产级 LLM 后训练。该库基于 Miles、Slime 等开源框架构建,官方称不到 100 行代码即可跑通训练流程,支持从 5 亿到数万亿参数模型,并可加载 Hugging Face 数据集或 Harbor 环境。Modal 表示,若已有生产环境的 Agent harness 和评测轨迹,就等于完成了 80% 的准备工作,可直接用这些数据训练。

推荐理由已有 Agent 生产轨迹的团队,可以用它把评测数据直接转成训练集,省去自建训练栈

Modal10/13资讯论文研究海外

Modal 用混合精度混合加速器采样器做 RL 训练

Modal 提出在强化学习中让采样器与训练器使用不同精度和不同加速器:采样器跑在 B200、B300、H100、H200 等六种加速器上,分别用 NVFP4、FP8、BF16 权重,训练器在 B200 上用 BF16 更新策略。由于采样已占大模型 RL 运行 80–85% 的 GPU,这一改动可降低成本。团队用 Miles 框架、SGLang 采样器和 Megatron-LM 训练器,在 Qwen3.6-35B-A3B 上做完全异步的 Agent 编码任务训练,上下文最长 256K,使用小米 MiMo-V2.6 发…

推荐理由采样占 RL 训练 80–85% 的 GPU,这套方案给出用低精度、异构卡跑采样器的具体做法和评测结果。

MarkTechPost10/13资讯论文研究海外

阿里 Qwen 发布 QwenGyre:面向超长任务 Agent 的弹性强化学习框架

阿里 Qwen 团队推出 QwenGyre,一个用于超长任务(XLong-horizon)Agent 训练的弹性强化学习框架,已在 Qwen 3.6 122B 和旗舰 Qwen 3.8 2.4T 上验证,单次 rollout 约 70 万 token。核心思路两条:在 rollout 与训练之间调度空闲 GPU;把分支化的 Agent 历史压缩成有界训练样本。相比 Async 提速 1.38 至 1.78 倍,相比 Colocate 提速 1.21 至 1.85 倍,TerminalBench 上最高 1.85 倍…

推荐理由做长任务编码 Agent 训练的人可参考:NL2RepoBench 48 步涨 6 个点,弹性调度思路可直接借鉴

Techmeme10/12资讯行业动态海外

前 DeepMind 科学家 David Silver 创业做 RL 超级学习者

前 DeepMind 科学家、AlphaGo 主要设计者 David Silver 接受 Financial Times 采访,介绍其新创业公司 Ineffable。该公司试图用强化学习(RL)构建一个 AI「超级学习者」,作为大语言模型之外的另一条技术路径,目标是造出能自我教学的机器。Silver 表示自己有一种推进这项技术的道德义务。原文为付费墙后的采访,具体技术细节和融资信息有限。

推荐理由AlphaGo 核心人物转向 RL 路线创业,是观察「后 LLM 时代」技术分歧的一个具体样本。

MarkTechPost10/08模型论文研究海外

NVIDIA 联合普林斯顿发布 PivotOPD,教多轮 Agent 从关键错误中恢复

NVIDIA 与普林斯顿大学、马里兰大学提出 PivotOPD,一种面向多轮 LLM Agent 的在线策略蒸馏方法,训练 Agent 避免最致命的早期错误,并在错误发生后恢复。在 ALFWorld、WebShop 和搜索问答上,Qwen3-1.7B 与 Qwen3-8B 学生模型对 13 个基线取得全部 8 项分榜平均最优。最佳结果:从 72.7% 的重放关键错误中恢复,标准 OPD 仅 20.3%。最差:1.7B 学生在 ALFWorld「Look」任务上为 55.9%,SOD 为 83.9%。方法在 H100…

推荐理由关键错误恢复率从 20.3% 提到 72.7%,且零额外推理成本,做多轮 Agent 的可以直接参考这套训练思路。

The Decoder10/01资讯论文研究海外

AI 攻克 Stratego:16 张 H100 一周击败人类最强棋手

AI 系统 Ataraxos 在军棋类桌游 Stratego 上击败了史上最强人类选手 Niemeijer(四届世界冠军、世界排名第一超 600 周)。Stratego 双方 40 枚棋子暗置,可能布局超 10^33 种,属不完全信息博弈,此前是 AI 尚未超越人类的最后几个主要棋类之一。DeepMind 的 DeepNash 曾用 1024 个 TPU 节点训练 2-3 个月(约 300-450 万美元)仍未突破顶尖人类水平;Ataraxos 仅用 16 张 H100 训练一周加 4 张 GPU 四天,成本不到 …

推荐理由16 张 H100、不到 8000 美元就攻下不完全信息博弈,做博弈 AI 的可以看它的样本效率技巧

Fireworks AI09/30模型论文研究海外

Fireworks 实验:数值不对齐会让 RL 训练奖励崩溃

Fireworks 在 GLM 5.2 上做对照实验:同一算法、同一数据跑 countdown 推理任务,仅改变训练器与 rollout 引擎计算 token 概率的方式。不对齐时两者 KL 约 0.013,为保持稳定每批要丢弃约 45% 样本,奖励升到约 0.9 后在 20 步左右崩到 0.2 以下;对齐后 KL 为 0,无样本丢弃,25 步内奖励稳定。在 Qwen3.5-MoE 上还发现,即使一方精度更高,专家输出合并方式不同也会导致分歧,并可能翻转路由决策。

推荐理由做 RL 训练的人可以直接抄结论:先对齐训练器与推理引擎的数值,否则 45% 的样本白扔、奖励还会崩。

OpenAI News09/29资讯政策监管海外

OpenAI 提出前沿 AI 训练安全案例框架

OpenAI 发文提出,前沿强化学习训练开跑前应要求结构化安全文档,并希望最终达到航空、核能等行业「安全案例」的严格程度。文中给出初步准则:技术保障需覆盖对齐训练、隔离与监控三部分,具体包括用 Agent 自动审查数据集、人工复核、调优评分器惩罚奖励黑客、对历史实验轨迹跑分类器验证评分器,以及离线对齐评估和回溯测试。OpenAI 称这是当前思考,会随内部流程迭代,并邀请社区反馈。

推荐理由想了解前沿模型训练安全流程具体包含哪些环节,这份准则给出了可对照的清单

Fireworks AI09/23资讯产品发布/更新海外

Fireworks 发布 ARCv3 压缩器,RL 权重更新体积减半

Fireworks 推出 ARCv3 压缩器,用于压缩从训练端发送到 RL rollout 机器的 BF16 权重更新。在 1000 个生产环境 RL 权重更新 delta 上,ARCv3 生成的传输负载比 ARCv2 小近 50%,且能无损重建训练端的精确 BF16 权重。更小的传输量让 rollout 集群更快跟上当前策略,使跨区域使用算力更可行,不必依赖单一大型同地集群。ARCv3 已通过 fireworks-delta-compression 在 Fireworks Training API 中提供,面向自…

推荐理由跨区域 RL 训练可省近 50% 权重传输量,自建 trainer 的团队可直接接入…