Hugging Face 博客10/21模型新模型发布海外IBM 更新 Granite Speech 系列,新增 granite-speech-5.0-2b,并修订 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。新 2B 模型与 4.1-2b 参数量相同,支持英语、法语、德语、西班牙语、葡萄牙语、日语转录,并支持这些语言与英语互译,另支持英语译成意大利语和普通话;训练数据含 39 万小时公开音频及合成数据。新增语言 ID 提示、最多 2000 词关键词偏置、按需输出标点与大小写。官方称其在公开英…
推荐理由Apache 2.0 可商用,2B 参数支持 6 语种转录和关键词偏置,适合做企业语音转写
Hacker News Show10/21资讯产品发布/更新海外开发者发布 Android 应用 Opposable,通过无障碍服务读取屏幕,并在其他应用中点击和输入。Claude、ChatGPT 或 Codex 可从电脑端驱动该应用;当这些模型都未连接时,一个 20 亿参数的屏幕模型会在手机本地运行同一套循环,不依赖服务器。该模型是阿里 Mobile-Agent 团队的 GUI-Owl 1.5,基于 Qwen3-VL 微调,以 4 bit 量化运行在 llama.cpp 上,语言模型占 1.05 GB、视觉编码器占 445 MB。在 Mac M2 CPU 上,单步耗时从 10…
推荐理由手机上跑 2B 模型操控 App,单步 7.3 秒、模型共 1.5 GB,可看端侧 Agent 的真实可用性
Hugging Face 博客10/21模型新模型发布海外NVIDIA 发布 Kumo Forecast(原 NV-Tesseract Forecasting),一个多变量时间序列预测模型,采用 Apache 2.0 许可,模型代码与权重已在 Hugging Face 开放。模型以 MOMENT-1-large 为骨干,约 3.4 亿参数编码器加可训练预测头,编码器与嵌入层权重冻结,只训练预测头。除直接预测外,还提供 DARR 模式:用最近邻从历史数据中检索相似模式,与直接预测结果融合,并可通过配置调整两条路径的权重。库提供 DataFrame 优先的 API、可配置预测…
推荐理由做时序预测的团队可直接下载权重,用 Apache 2.0 免费商用,还带可解释性输出。
Hacker News · AI10/21资讯产品发布/更新海外LayerFS 发布,定位是 AI 编码 Agent 底层的文件系统。每个 Agent 挂载一个可写工作区,在共享的已提交历史上工作,完成后提交改动并销毁工作区。每个工具调用对应一次原子提交,同一文件冲突会被拒绝并标记 Conflict,blame 可显示每行由哪一步写入。fork 只复制元数据、不复制文件,10 份副本经去重和压缩后约等于 0.31 份。挂载耗时实测 5–20 ms,node_modules 等依赖随挂载就绪,无需重新安装。原文信息有限,未披露开源协议与定价。
推荐理由多 Agent 并行开发时,挂载 5–20 ms、依赖免安装、fork 零拷贝
Modal10/21资讯产品发布/更新海外Modal 推出开源训练库 Modal Dojo,用于生产级 LLM 后训练。该库基于 Miles、Slime 等开源框架构建,官方称不到 100 行代码即可跑通训练流程,支持从 5 亿到数万亿参数模型,并可加载 Hugging Face 数据集或 Harbor 环境。Modal 表示,若已有生产环境的 Agent harness 和评测轨迹,就等于完成了 80% 的准备工作,可直接用这些数据训练。
推荐理由已有 Agent 生产轨迹的团队,可以用它把评测数据直接转成训练集,省去自建训练栈
DEV Community · AI10/21模型产品发布/更新海外开发者 thomasbnt 开源了 devto-digest,一个读取 dev.to 账号并每周发送邮件摘要的脚本。它把内容分成两块:「For you」是已关注标签下的热门文章,「Discover」是关注标签之外的热门文章。每篇文章以卡片呈现,包含封面、标题、两个标签、作者,以及由开源权重模型 mistral-small-latest 生成的一句话简介。脚本每天采集候选文章,按「点赞数加两倍评论数」并叠加时间衰减来打分;每周排名后,再通过 dev.to API 复查,剔除已删除或下线的文章。项目基于 Node.js…
推荐理由想摆脱信息茧房的开发者可以 clone 下来,用 dry-run 先看自己账号的周报效果
vLLM10/21资讯新模型发布海外vLLM 宣布从发布第一天起就支持 Recursive 的 Flint 模型,NVFP4 和 BF16 两个 checkpoint 都能在单张 GPU 上运行;在单张 GB200 上,即使上下文长度达到 100K tokens,单次请求的解码速度仍约为 500 tokens/s。Flint 是一个 40B 参数的 MoE 模型,每个 token 只激活约 2.5B 参数,多数层使用滑动窗口注意力,上下文长度为 262K tokens。官方提供了 vllm/vllm-openai:flint 镜像,支持 x86_64…
推荐理由单张 GB200 在 100K 上下文下解码约 500 tokens/s,40B MoE 只激活 2.5B
vLLM10/21模型新模型发布海外蚂蚁集团和 vLLM 社区开源通用高性能量化推理内核库 Humming,支持 Turing 及之后的 NVIDIA GPU 架构,以及平头哥真武 810E 等 CUDA 兼容设备。该库用统一架构支持稠密和 MoE 工作负载的多种权重与激活格式组合,覆盖多种整数和浮点类型、位宽和缩放方案。官方称,在多个代表性负载上,其性能显著超过 vLLM Marlin、FlashInfer 和 DeepGEMM。背景方面,DeepSeek-V3 有 6710 亿参数,每 token 激活 370 亿,量化可降低显存占用和数据搬运。…
推荐理由部署量化模型时可直接替换 Marlin、FlashInfer 内核,官方称多负载性能更优,且支持国产真武 810E
TechCrunch AI10/21模型行业动态海外Google 宣布开源 TorchTPU,这是其 PyTorch 的 TPU 适配版本。开发者只需改配置、无需重写代码,就能把现有 PyTorch 应用迁到 Google TPU 和 Google Cloud。PyTorch 由 Meta 于 2016 年开发,据称 85% 的 AI 应用在用。此前一天,亚马逊也发布了 TorchNeuron,支持把应用无重写迁移到自研芯片 Trainium 和 AWS,并提交代码将 PyTorch 功能与 Nvidia 芯片解耦。Google 称与 Meta、Hugging Fa…
推荐理由做推理部署的团队多了一条绕开 Nvidia 的路:改配置即可迁到 TPU,成本对比值得算一算
DEV Community · AI10/21资讯产品发布/更新海外CopilotKit 团队成员开源了 answerLoops,一个把 GitHub、Discord、Telegram 等渠道的社区提问汇总到仪表盘、并借助知识库生成回复草稿的工具。系统用 Mastra agent 生成草稿,再由另一个 agent 审核草稿是否简洁准确,团队可在仪表盘中修改或弃用。另有一个基于 CopilotKit 的可嵌入网页聊天组件,支持分步指南、快捷回复、链接卡片等富文本回答。近期重点在知识库:管理员可手动录入文档中没有的答案,供 agent 引用。项目开源并在公开环境下开发。
推荐理由做社区或客服支持、想把零散问答沉淀成可复用知识库的团队,可以直接看它的双 agent 草稿加审核设计。
Nathan Lambert10/21资讯新模型发布海外DeepSeek 发布 V4.1 Flash 模型,并首次公开内部推理栈 DeepInfer。据估算,DeepSeek 用该栈销售 token 的毛利率可达 90%,其效率可能明显高于 vLLM、SGLang 等现有开源工具。同期,中国商务部发布政策提案(尚未立法),要求前沿 AI 模型等技术的国际共享需事先审批,但开源技术将走自动审批通道。美国国土安全部则下令禁止 DeepSeek 及其模型作为联邦民用采购供应商。
推荐理由DeepInfer 是首个头部实验室公开的推理栈,做部署和推理成本优化的人可以直接研究
Hugging Face 博客10/21模型论文研究海外Allen AI 推出 FairStress 基准,用于衡量 LLM 在招聘、贷款、医疗、教育、住房等高风险决策中的群体公平性。传统基准只比较交换候选人身份后模型是否给出同一答案;FairStress 进一步测试模型面对「对抗性前缀」(如「高管更青睐 B」)时改变决策的难易程度。测试覆盖 Olmo、Llama、Qwen、Gemma、Claude 和 GPT 系列,横跨多个训练阶段,发现同一说服性论据会因受益群体不同而让模型改变决策的概率不同,模型解释和内部激活模式也存在差异。数据与代码已开放,并集成进 Olmo-e…
推荐理由做模型评测或风控的人可以直接下载这套基准,补上「输出一致但抗压性不一致」的盲区。
MarkTechPost10/20模型新模型发布海外Google 在 PyTorch Conference 2026 上开源 TorchTPU,这是与 Meta PyTorch 团队共同开发的 Cloud TPU 原生 PyTorch 后端。现有 PyTorch 代码只需指定 torch.device("tpu") 即可运行,TPU 由此与 GPU、CPU 并列成为 PyTorch 的原生设备。Google 表示 TorchTPU 取代 PyTorch/XLA,建议所有新工作负载使用。共开源 4 个仓库:TorchTPU、vLLM-TorchTPU、SGLang-T…
推荐理由已有 PyTorch 代码改一行 device 就能跑 TPU,vLLM、SGLang 后端同步开源,可直接评估迁移成本
Hacker News · AI10/20资讯产品发布/更新海外YC W24 团队 Respan 在 Hacker News 发布开源 Rust AI 网关。该网关采用解耦架构,提供商、协议(MCP、语音)、模态(图像、视频)和网关功能(故障转移、PII 脱敏、智能路由)均以插件形式实现。团队称不把大量提供商和功能打包进单一网关,而是提供小核心和公开接口供团队自行扩展。原文信息有限,未披露性能数据与开源协议。
推荐理由做多模型接入或需要 PII 脱敏、智能路由的团队,可看插件化网关的另一种架构取舍
Hacker News Show10/20资讯产品发布/更新海外安全研究者 Katriel 在 Hacker News 发布开源暗网 OSINT 工具 VoidAccess,可将查询结果整理成关系图。作者称暗网内容难以导航,因此想用开源引擎做出超越现有付费安全工具的产品。该工具是其邮件 OSINT 工具 MailAccess 的前作,原文未披露具体功能细节和技术实现。
推荐理由做威胁情报或 OSINT 的人可以看看这个开源暗网关系图工具的实现思路
MarkTechPost10/20模型新模型发布海外DeepSeek 以 Apache 2.0 协议开源了支撑其生产服务的推理框架 DeepInfer,该框架是 DeepSeek-V4.1-Flash 的推理引擎,同时发布 MIT 协议的 token 编解码层 deepseek-recipe。框架支持 1M token 上下文,可运行在 NVIDIA SM100(Blackwell)GPU 和华为昇腾 950 NPU 上,基准测试用 4 卡做 prefill、64 卡做 decode。官方称单集群每天服务 155 万亿 token,在 EP64、131072 上下文…
推荐理由可直接查看前沿实验室真实 serving 栈的并行策略、投机解码与 SWA 重算设计,并支持昇腾 NPU
Hugging Face 博客10/20模型产品发布/更新海外AnyLanguageModel 发布 1.0 版本,同时推出 swift-huggingface 1.0 和 swift-xet 1.0。该项目是 Apple Foundation Models 框架的兼容替代品,只需把 import FoundationModels 改成 import AnyLanguageModel,同一套会话代码即可调用系统模型、llama.cpp、MLX、Core ML 的本地开源模型,以及 OpenAI、Anthropic、Gemini、Ollama、Private Cloud Com…
推荐理由Apple 平台开发者只需改一行 import,就能在本地模型和多家云端 API 之间切换
TechCrunch AI10/20资讯行业动态海外AI 芯片初创公司 Tenstorrent 完成 15 亿美元融资,估值 62 亿美元,较 2024 年底的 26 亿美元翻了一倍多。本轮由 Trace Capital 和 Innovation X 领投,Cadence Ventures、Eclipse、Fidelity、SanDisk、T. Rowe Price 参投。CEO Jim Keller 向 Bloomberg 表示,在证明其 Galaxy 服务器可运行 DeepSeek 模型后,公司决定保持独立并继续融资。新资金将用于扩大面向开源权重模型推理和视频生…
推荐理由做推理芯片选型或关注英伟达替代方案的人,可留意 Galaxy 服务器已能跑 DeepSeek 这一信号。
TechCrunch AI10/19模型新模型发布海外Nvidia 发布面向常驻 Agent 和边缘计算的开源权重模型。Nemotron 3.5 Super VL 为 1200 亿参数,面向企业 Agent,参数少于 Nemotron 3 Ultra,但指令遵循和工具调用准确率接近。另有两款轻量 Bolt 模型,可在搭载 RTX Spark 芯片的 AI PC 和 DGX Spark 工作站本地运行,相关 PC 正通过微软、戴尔等伙伴上市。Nvidia 称 Super VL 在文档理解、财务会计、科学实验、医保理赔、安全攻防等任务上经后训练后完成速度快于 Opus 5…
推荐理由1200 亿参数开源权重模型可自建后训练和私有部署,企业选型多一个可对比选项
Hacker News Show10/19模型新模型发布海外2 个独立信源2 条讨论开发者 erikkannike 在 MacBook Air 上微调 Qwen3-4B-Instruct,发布 qwen3-4b-deslop,用 Ollama 一条命令即可运行,模型 2.5 GB。在 40 条训练未见过的提示上,AI 腔调检测分数从每千词 121 降到 12.5,68% 的回答落在人类写作区间,破折号从每千词 20.5 个降到 0。30 道事实题全部答对,体裁和长度符合率与原模型相当。训练仅用 161 条回答,作者称方法不依赖模型规模,下一步将用于更大模型。缺点是文风偏平,仍会编造人名地名。
推荐理由想本地跑一个不带 AI 腔的写作模型,2.5 GB 一条 Ollama 命令即可,破折号归零
The Verge AI10/19模型技巧与观点海外The Verge 报道,借助 Claude 等 AI 编程工具,硬件合成器、采样器和鼓机的第三方固件开发门槛大幅降低。过去为 Korg Volca 添加力度感应需要数周甚至数月,现在爱好者几天内就能把廉价合成器改造成完整鼓机。近一个月内,Elektron Model:Cycles、Digitone、Octatrack、Digitakt,Roland SP-404 MKII,Ableton Push 3 和 Move,Akai MPC Live 和 MPC One,以及 Novation Circuit、Artur…
推荐理由想了解 AI 编程在硬件固件上的真实案例,可看 70 美元合成器如何被改造成多引擎鼓机
Hacker News Show10/19模型产品发布/更新海外开源项目 Strot 提出「编译期用 Agent、运行期不用 Agent」:先用 LLM 把意图和样本编译成冻结的 Python 产物,之后每条记录都由本地 144M 小模型在 CPU 上做分类、打分、路由,约 60 ms,边际成本为零,低置信度记录会弃权而不是猜测。实测在 398 条记录的路由上,编译后准确率 92.5%,朴素做法为 74.8%;AG News 未见标签上为 86.7% 对 72.7%。已发布 PyPI 包 strot-ai。
推荐理由需要大批量分类或路由、又不想按 token 付费的团队,可以看这个「一次编译、本地推理」的省成本方案
MarkTechPost10/19模型产品发布/更新海外NVIDIA 将完整的 Run:ai 平台以 Apache 2.0 协议在 GitHub 开源,平台团队可自行检查、fork 和自托管,无需付费订阅。代码为 monorepo,包含控制平面、集群服务、安装器、CLI 和 MCP server,本地构建约 50 个 Go 服务。拆分为 4 个可独立采用的组件:KAI Scheduler(CNCF Sandbox 项目,支持 gang 调度、公平份额、拓扑感知)、GPU Fractioning Operator(基于 CUDA 13.4 原生 GPU 切分,按工作负载强…
推荐理由自托管 GPU 调度可省订阅费,本地 8 卡模拟环境 16 GB 内存即可跑起来
MarkTechPost10/19模型新模型发布海外Mistral AI 发布首个时间序列基础模型系列 Timestral,含 5M、28M、123M、209M 四个零样本预测模型,上下文最长 32,768 个时间步。据 Mistral 自测,最大版本在 GIFT-Eval、TIME、fev-bench 三个基准的预训练零样本模型中排名第一,fev-bench SQL skill 得分 50.39,高于 Google TimesFM-3 的 48.99;GIFT-Eval MASE 0.658,仅比 t0-gamma 的 0.661 领先 0.003。模型可在普通服…
推荐理由做时序预测的团队可以零样本直接跑,CPU 就能推理,权重 837 MB,不用 GPU 集群。
Hugging Face 博客10/19资讯产品发布/更新海外Hugging Face 发布 TorchNeuron,为 AWS Trainium 提供 PyTorch 原生后端,支持 eager 模式、torch.compile 以及 FSDP、TP 等分布式 API。Transformers、Diffusers、Accelerate、PEFT、TRL 可直接在 Trainium 上运行,无需再经过 Optimum Neuron。10 月 20 日起开放公测,可通过 pip install torch-neuronx 安装。在文本生成方面,使用 TorchNeuron 时,…
推荐理由在 Trainium 上跑模型的架构覆盖率从 46% 升到 89%,只需改一个 device_map 参数
Hacker News Show10/18资讯产品发布/更新海外Ranet3 是一个开源 SD-WAN 项目,它只用标准协议搭建网状网络:节点之间用 IKEv2 和 ESP 建立加密隧道,用 Babel 按 RTT 选路,用 SRv6 做策略路由。它已与 strongSwan、BIRD 和 Linux seg6local 完成互通验证,因此不运行 Ranet3 的节点也能接入。Babel 会持续测量每条链路的往返时延,直连链路变慢时自动改走中继,直连恢复更快后再切回。SRv6 段路由在用户态实现,在 macOS 上也能用。作者在 2026-10-15 的测试显示,单流吞吐达到 …
推荐理由想用标准协议替代 Tailscale 类私有 agent 组网的人,可看它的吞吐数据和时延代价
DEV Community · AI10/18模型技巧与观点海外开发者用 Thinking Machines 的 Tinker 微调开源模型 Qwen3-8B,做了一个「复杂度打分器」:在把 prompt 发给 AI 之前,先由这个轻量端点给出 0.00 到 1.00 的复杂度评分,应用再据此决定用便宜模型还是强模型,以降低 API 成本。作者称微调后准确率从 50% 提升到 76%,模型保持开源可下载,计划只对托管 API 收费。原文未披露训练成本、数据集规模和评测方法。
推荐理由想用便宜模型分流请求省 API 费用的开发者,可参考这个 50%→76% 的微调思路和评分分级设计
MarkTechPost10/18模型技巧与观点海外NVIDIA 推出 Structured Data Models 库,把 TabICLv2、KumoTabular(单表)和 KumoRelational(关系数据库)等预训练表格基础模型统一到一个 PyTorch 接口下。模型通过上下文学习工作:输入带标签的行和待预测行,一次前向传播即返回概率或完整预测分布,无需训练。教程对比了这两个表格模型与训练过的 scikit-learn 基线,演示复用编码上下文、读取回归的校准预测区间、扩展到 20 个类别,并指出默认预处理会丢弃时间戳和文本列、解释器存在两个陷阱,最后用…
推荐理由想跳过训练直接做表格预测的开发者,可拿到安装命令、与 sklearn 基线的对比和默认配置的坑。
MarkTechPost10/18模型新模型发布海外Kyutai 联合 Inria 和 École des Ponts 发布 REKI,一个 2.4B 参数的视觉-语言-动作模型(VLA),仅用公开数据预训练,权重已在 Hugging Face 上线。模型由 2.2B 的 Qwen3.5-2B 视觉语言模型和 0.2B 的流匹配动作专家组成,记忆覆盖最近 3 帧(间隔 1 秒),以 32 个寄存器 token 缓存在动作专家内,每帧仅多占约 2 MiB 显存、增加 0.1 ms 延迟。在单张 H100 上,每个动作块耗时 21.8 ms。基准成绩:LIBERO-Pl…
推荐理由2.4B 参数、单张 H100 上 21.8 ms 出动作块,权重已开源,做机器人操作的可直接下载试。
Techmeme10/17模型新模型发布海外DeepSeek 发布 V4.1-Flash-1017,官方称相比上一代在基准测试表现更强、任务完成更快、输出更短。原文信息有限,未披露具体基准分数、模型参数、上下文长度与定价。
推荐理由DeepSeek 小版本迭代,关注其是否延续低价策略的可等官方文档确认
Nathan Lambert10/17模型新模型发布海外Meta 发布开源权重模型 Muse Spark Open,816B 总参数、42B 激活参数,上下文窗口 1M token,原生多模态,面向编码与 Agent 任务。作者称其是当前最强的美国开源模型,性能高于 GLM 5.2、接近 DeepSeek V4.1 Flash,落后于 GLM 5.3 和 Kimi K3。同期 Reflection 发布首个模型 Beam,Mistral 公布 Mistral Large 4 得分 38 但未开源权重。作者认为美国与中国最佳开源模型的差距大约缩小了一半。
推荐理由想选开源模型做 Agent 的人可对照:816B/42B 激活、1M 上下文
MarkTechPost10/17模型新模型发布海外2 个独立信源DeepSeek 发布 V4.1-Flash 的新检查点 V4.1-Flash-1017,已在官网、App 和 API 上线,API 模型名为 deepseek-flash。官方称在全部 11 项基准上比 9 月版本高 2.0 到 11.1 分,其中 DeepSWE v1.1 得 77.0,高于表中 Claude Opus 5 的 74.0;HLE 无工具仅 42.6,低于 Opus 5 的 56.3。模型为多模态 MoE,552B 主干加 196B Engram 参数,prefill 激活 8B、decode 激…
推荐理由编码模型 DeepSWE 77.0 反超 Opus 5,且 Search API 开放
MarkTechPost10/17模型新模型发布海外TypeSafe 于 2026 年 9 月 15 日发布决策模型 Jev:用户定义可选答案,模型返回标签、分数或 yes/no 概率,不生成文本。定价为每 100 万输入 token 0.042 美元,输出免费,上下文 64k,仅支持文本,权重闭源且需排队申请。约 4 周内,Cloudflare、OpenAI、Perplexity、Liquid AI、AWS Strands Labs 及独立开发者推出至少 20 个替代品,参数从 287M 到 35B-A3B。Cloudflare Clef 在 BANKING77 …
推荐理由想自托管或做分类、打分任务的团队,可对照 20 个替代品的参数、许可和价格选型。
MarkTechPost10/17模型新模型发布海外阶跃星辰(StepFun)以开放权重形式发布 Step 5 Preview,FP8 与 BF16 权重已上线 Hugging Face 和 ModelScope。模型总参数 600B,每 token 激活 27B,上下文最长 1M token,定位长程 Agent 任务,如代码库导航、多文件修改、长文档与图表分析。部署门槛较高:FP8 需 4 张 B300 或 8 张 H200,BF16 需 8 张 B300 或 16 张 H200。Artificial Analysis 测得智能指数 43.7,AA-LCR 长上…
推荐理由1M 上下文加 27B 激活,长文档和代码库场景可自托管;但 Terminal-Bench 33.3%…
MarkTechPost10/17模型产品发布/更新海外Perplexity 开源了支撑 Perplexity Computer 全部任务的沙箱平台 SPACE,采用 Apache 2.0 协议,代码托管在 GitHub。每个 Agent 任务运行在独立的 Firecracker microVM 中,凭证和出站流量由 VM 外部控制,密钥不进入 guest。Rust 代码库,版本 0.8.0,提供 HTTP API 和 SSE,需 Linux x86_64 + KVM + btrfs + Docker,不支持 macOS。生产环境创建延迟中位数从 185 ms 降至 6…
推荐理由做编码或浏览 Agent 的团队可直接自托管这套经生产验证的隔离层,创建延迟 60 ms
DEV Community · AI10/17模型产品发布/更新海外开发者发布开源项目,通过读取 OBS 虚拟摄像头画面,用 OCR 识别 BGMI 直播击杀信息中的玩家名,再用训练好的检测器分类击杀图标,在毫秒级更新直播叠加层上的实时积分榜。项目针对 BGMI 不开放 API 的问题,先过滤无事件帧,只把可能含信息的帧送入较重的 ML 模型,可处理 60 FPS 高清直播流。作者在学院内实测一场比赛,赛后数秒内生成积分表。代码已开源,README 提供本地部署步骤。
推荐理由做直播工具或 OCR 落地的开发者可参考其帧过滤省算力思路,代码可直接跑
The Decoder10/17模型政策监管海外中国商务部和科技部发布禁止和限制出口技术目录的修订草案,涉及大模型、Agent、算力集群和数据处理等 23 项关键技术。能自主编写或修改恶意软件、攻击关键基础设施、军事或政府机构的 AI 工具被全面禁止出口;用于发现软件漏洞的 AI 工具则面临新的出口限制。大模型在两种情况下受出口管制:一是基于中国《数据安全法》定义的“重要数据”训练并提供服务,合法公开数据除外,允许不超过 0.1% 的微量数据,前提是经过清洗、不出现在输出中且不实质提升研发能力;二是模型核心技术,包括权重、检查点、源代码、架构和训练推理方法,触发…
推荐理由出口管制的算力、参数、排名三条门槛,直接决定哪些中国开源模型还能被海外部署。
Hugging Face 博客10/16模型新模型发布海外NVIDIA 联合 IIT Madras 的 AI4Bharat 实验室发布 Nemotron-pretraining-Indic-v1,约 2.8 万亿 token,覆盖印度宪法列出的 22 种语言,含 12 种语言的罗马化文本,共 34 种语言-文字组合。同时开源配套的 GPU 加速数据生成流水线,包含提示词、LLM 工作流和质量校验,可迁移到自有语料。数据由精选英文材料(数学、代码、问答)翻译而来,每条记录可追溯到源文档,并保留公式、表格和代码。AI4Bharat 负责人 Mitesh Khapra 称印度语…
推荐理由做印度语或多语言模型的团队可直接用这 2.8 万亿 token,或复用其开源流水线生成自有语料
vLLM10/16模型新模型发布海外vLLM 在发布当天即支持 Reflection 的 Beam 模型:501B 参数 MoE,每 token 激活 23B。在 NVIDIA Blackwell 上,由编码 Agent 自主优化后,batch-1 解码比初版快 2.71 倍,prefill 快 1.87 倍。配合 DFlash2 投机解码草稿模型,单请求在 TP8 上达到 708 tokens/s,接受长度 3.7;自适应验证在高并发下再提升 10% 吞吐。架构上,52 层解码器采用 DeepSeek-V3 式 MoE 路由,43 层为 512 t…
推荐理由想部署 501B 级开源 MoE 的团队可直接用官方 Docker 镜像
Hugging Face 博客10/16模型新模型发布海外美国新实验室 Reflection 发布首个模型 Beam,采用 MoE 架构,总参数 501B、每 token 激活 23B,支持 100 万 token 上下文,以 Apache 2.0 许可开源。模型面向编码和 Agent 场景,提供 BF16、FP8、NVFP4 三种权重格式,首日即支持 transformers、SGLang、vLLM,并附带基于 Rust 的专用 harness 和投机解码草稿模型。推理强度分 low、medium、high、xhigh、max 五档,支持跨轮保留思考内容。Reflect…
推荐理由501B 参数、Apache 2.0、100 万上下文,想在自有硬件上部署前沿编码模型可直接下载