Hugging Face 博客10/23模型技巧与观点海外Hugging Face 博客介绍了一个 Space 工具,用于查询 Hub 上的热门模型能否在 AWS Trainium 上不经修改直接运行。该工具按下载量和趋势排名列出模型,每行给出测试结果、模型分片所用的 Trainium 核心数、运行实际耗时(含编译)和峰值显存。用户可切换视图搜索指定模型,并选择 neuronx-cc 与 Transformers 版本。目前仅测试 Transformers 的文本生成和图文模型,计划扩展到 diffusers 等。工具还提供 run.py 脚本和 NEFF 缓存同步命令,…
推荐理由要在 AWS Trainium 上跑模型的开发者,可直接查目标模型是否兼容,并拿到现成脚本和缓存命令。
vLLM10/23模型技巧与观点海外vLLM 团队公布 GLM-5.3 在 16 张 H200 上的部署优化方案,采用 1 个 prefill 节点加 1 个 decode 节点的分离架构。Prefill Context Parallelism(PCP)按 token 而非注意力头切分 prompt,更适配 GLM-5.3 的稀疏注意力;Decode Context Parallelism(DCP)按 token 分片 prefill 引擎的 KV cache,使 100 万 token 上下文能装进 prefill 节点;Hybrid HiSpar…
推荐理由部署长上下文 Agent 服务可参考:PCP8×DCP8 单用户速度提升 1.7–3.2 倍
MarkTechPost10/23模型新模型发布海外巴黎语音 AI 公司 Gradium(从 Kyutai 分拆)开源端侧 TTS 模型系列 Phonon。英文版 Phonon 31m 采用 Apache 2.0 协议,q8 GGUF 文件仅 64.5 MB,输出 24 kHz 单声道音频,可在 CPU、手机、树莓派 5、浏览器(WASM/WebGPU)上运行,无需 GPU 和云端调用。CPU 上首帧音频延迟约 7 ms。在 Gradium 自测的 500 句困难集上 WER 为 1.70%,对比 Kokoro 的 3.50%;但在 Seed-TTS 评测集上 WE…
推荐理由64.5 MB 就能在手机和树莓派上离线跑 TTS,首帧 7 ms,做端侧语音应用可直接下载试用
MarkTechPost10/23模型论文研究海外Datalab 发布开源文档解析基准 OmniParseBench,用 16,288 项通过/失败小测试评测解析器输出,覆盖 2,937 页文档,包括扫描表单、手写体、arXiv 数学公式和密集表格。作者基于 Datalab 公布的 27 个解析器判定结果重建排行榜,并自行在 50 页样本上运行 Tesseract 和 Indra OCR。发现:排名前两位的解析器在统计上并列,多数文档切片下榜首会变化,且发布时公布的一项数字与公开文件不符。原文为教程,含完整代码。
推荐理由做 RAG 或文档解析选型时,可直接用这套 1.6 万项测试复现评测,避免只看榜单排名。
Hugging Face 博客10/23模型新模型发布海外Allen AI 发布 OlmoEarth v1.3 卫星嵌入模型,并公开全球预计算嵌入:10 米分辨率,提供 64 维和 128 维两种版本。模型读取 Sentinel-1 雷达与 Sentinel-2、Landsat 多光谱数据,为每个 10 米像素生成一个 128 维向量。在 27 项评测中,128 维版本在 20 项得分最高,64 维版本在 18 项领先,对比对象为 AlphaEarth Foundations 和 Tessera v2。模型权重、预训练数据和代码全部开源,并配套无需登录的浏览器工具 Emb…
推荐理由无需 GPU 和下载影像,用现成全球嵌入训练小分类器即可做作物、火灾等制图
LlamaIndex10/22模型新模型发布海外LlamaIndex 推出 OCRia-1,一个 40 亿参数的视觉语言模型,主打文档解析。在 ParseBench 上综合得分 87.4,比第二名高 12.1 分,是 350 亿参数以下解析模型的最高分。在表格评测中,olmOCR-bench 得 92.9、PulseBench-Tab 得 84.1、fr-bench-pdf2md 得 72.1,均排名第一。官方称其在准确率、成本和延迟三方面同时领先,重点优化了嵌套表头、合并单元格和不规则网格的重建,面向金融报表、保险单据等场景。
推荐理由4B 参数就在文档解析上超过 7B 的 olmOCR-2,做票据、报表 OCR 的可以直接对比选型
Modal10/22模型产品发布/更新海外Modal 发布开源训练服务器 Spindle,兼容 Thinking Machines 的 Tinker 接口,运行在用户自己的 Modal workspace 中。用户按 GPU 时间付费,而非按 token 付费,并可自行修改服务端。Spindle 支持全参数训练和多 LoRA,覆盖多种开源模型,可同时运行数百个训练任务。Modal 称,相比闭源 API,Spindle 在相似性能下成本显著降低。部署只需一条命令。Modal 同时提供训练库 Dojo 和底层集群原语,Spindle 位于两者之间。
推荐理由按 GPU 时间计费替代按 token 计费,跑几十个实验的团队可直接省成本
DEV Community · AI10/22模型超级个体海外一位开发者发文回顾自己的项目进展:加入 YC 创业学校后,他决定不再寻找联合创始人,转而专注单一方向,即把开发者工具开源,再将其能力产品化,实现从 prompt 到二进制的自动化软件生成。他此前已做出高并发 MCP server、远程管理工具 Drone、Windows Automata、MCP-Lite 和 IDE 等组件。他称核心架构数月前已确定,目前缺少的是效率与可扩展性,下一步将申请融资。文中还提到其项目 Dwarven Stronghold 代码量超过 1000 万行、正在编译,模拟运行速度为 Dwarf…
推荐理由可了解一位独立开发者如何把 MCP、computer use、IDE 拼成 AI 生成软件的技术路线
Hugging Face 博客10/22模型新模型发布海外IBM 在 Hugging Face 发布 Granite Timeseries Ensemble,把四个预训练 Granite 时间序列模型(PatchTST-FM-r1/r2、FlowState-r1.1、TTM-r3)组合成一个集成预测接口,无需重新训练、无需拟合集成权重,直接输出点预测和 0.1 到 0.9 分位数预测。默认提供概率集成和自适应 IQR 集成两种方案,接口可扩展接入其他兼容预测器,代码与默认成员模型均为宽松许可。安装 granite-tsfm 0.3.11 及以上版本即可加载,首次运行需下载…
推荐理由pip 装完就能用四个开源模型做零训练预测,直接拿到分位数区间
MarkTechPost10/22模型新模型发布海外IBM 发布开源语音语言模型 Granite Speech 5.0 2B,采用 Apache 2.0 许可,可将 6 种语言的语音转成文本。模型为 2B 参数稠密结构,LLM 主干基于 granite-4.0-1b-base,用 YaRN 扩展到 16k 位置,训练使用 39 万小时公开音频加合成数据,8 张 H100 训练 40 天。在 Open ASR Leaderboard 上以 5.68% 平均英文 WER 排开源权重第二,仅次于 Qwen3-ASR-1.7B 的 5.40%;LibriSpeech Cle…
推荐理由Apache 2.0 可商用,2B 模型能在 Mac 本地跑,关键词偏置最多 2000 词,适合做会议转写
Fireworks AI10/22模型行业动态海外医疗 AI 公司 Heidi 在 Fireworks 平台上对 550B 参数的 NVIDIA Nemotron 3 Ultra 进行后训练:先用合成 Agent 轨迹做监督微调,再用围绕临床安全与忠实度设计奖励的强化学习,经 NVFP4 量化后部署在 NVIDIA Blackwell 的专属实例上。Heidi 每周支持 270 万次临床问诊、覆盖 110 种语言。后训练后的开源模型在实时盲测对比中约 54% 胜出,而基线检查点约为 42%,对手是当前生产环境使用的前沿闭源模型。
推荐理由一个 12 人团队用开源权重在临床盲测中反超前沿闭源模型,54% 对 42%,可看后训练与 RL 奖励设计思路
MarkTechPost10/22模型新模型发布海外2 个独立信源Recursive Superintelligence 发布首个模型 Flint,这是一个面向编码 Agent 的开源权重 MoE 模型:总参数 39.8B、每 token 激活约 2.5B,权重以 Apache 2.0 协议发布在 Hugging Face。模型卡标注上下文 262,144 tokens,博客称最高支持 512k。4-bit 量化后约 23 GB,可在 48 GB 的 Apple Silicon Mac(M4 Pro、M5 Pro、M5 Max)或 48 GB NVIDIA GPU 上本地运行。官…
推荐理由4-bit 权重仅 23 GB,48 GB 内存的 Mac 就能本地跑编码 Agent
Hacker News Show10/22模型产品发布/更新海外2 个独立信源2 条讨论Omnara 在 GitHub 开源,定位为 Claude Managed Agents 和 OpenAI Agents API 的自托管替代方案,采用 Apache 2.0 协议,可免费自部署,也提供云端版本。用户通过 agent.yaml 配置模型、机器池和指令,用 CLI(需 Node.js 22+)或 TypeScript SDK 启动 Agent,支持任意模型、工具调用、密钥管理、权限控制和流式输出。自托管需 Docker Compose,本地启动后访问 localhost:8000 注册,验证链接直接打…
推荐理由想摆脱 Claude、OpenAI 托管 Agent 锁定的人,可以用 Docker 一条命令自建
Hugging Face 博客10/21模型新模型发布海外IBM 更新 Granite Speech 系列,新增 granite-speech-5.0-2b,并修订 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。新 2B 模型与 4.1-2b 参数量相同,支持英语、法语、德语、西班牙语、葡萄牙语、日语转录,并支持这些语言与英语互译,另支持英语译成意大利语和普通话;训练数据含 39 万小时公开音频及合成数据。新增语言 ID 提示、最多 2000 词关键词偏置、按需输出标点与大小写。官方称其在公开英…
推荐理由Apache 2.0 可商用,2B 参数支持 6 语种转录和关键词偏置,适合做企业语音转写
Hugging Face 博客10/21模型新模型发布海外NVIDIA 发布 Kumo Forecast(原 NV-Tesseract Forecasting),一个多变量时间序列预测模型,采用 Apache 2.0 许可,模型代码与权重已在 Hugging Face 开放。模型以 MOMENT-1-large 为骨干,约 3.4 亿参数编码器加可训练预测头,编码器与嵌入层权重冻结,只训练预测头。除直接预测外,还提供 DARR 模式:用最近邻从历史数据中检索相似模式,与直接预测结果融合,并可通过配置调整两条路径的权重。库提供 DataFrame 优先的 API、可配置预测…
推荐理由做时序预测的团队可直接下载权重,用 Apache 2.0 免费商用,还带可解释性输出。
DEV Community · AI10/21模型产品发布/更新海外开发者 thomasbnt 开源了 devto-digest,一个读取 dev.to 账号并每周发送邮件摘要的脚本。它把内容分成两块:「For you」是已关注标签下的热门文章,「Discover」是关注标签之外的热门文章。每篇文章以卡片呈现,包含封面、标题、两个标签、作者,以及由开源权重模型 mistral-small-latest 生成的一句话简介。脚本每天采集候选文章,按「点赞数加两倍评论数」并叠加时间衰减来打分;每周排名后,再通过 dev.to API 复查,剔除已删除或下线的文章。项目基于 Node.js…
推荐理由想摆脱信息茧房的开发者可以 clone 下来,用 dry-run 先看自己账号的周报效果
vLLM10/21模型新模型发布海外蚂蚁集团和 vLLM 社区开源通用高性能量化推理内核库 Humming,支持 Turing 及之后的 NVIDIA GPU 架构,以及平头哥真武 810E 等 CUDA 兼容设备。该库用统一架构支持稠密和 MoE 工作负载的多种权重与激活格式组合,覆盖多种整数和浮点类型、位宽和缩放方案。官方称,在多个代表性负载上,其性能显著超过 vLLM Marlin、FlashInfer 和 DeepGEMM。背景方面,DeepSeek-V3 有 6710 亿参数,每 token 激活 370 亿,量化可降低显存占用和数据搬运。…
推荐理由部署量化模型时可直接替换 Marlin、FlashInfer 内核,官方称多负载性能更优,且支持国产真武 810E
TechCrunch AI10/21模型行业动态海外Google 宣布开源 TorchTPU,这是其 PyTorch 的 TPU 适配版本。开发者只需改配置、无需重写代码,就能把现有 PyTorch 应用迁到 Google TPU 和 Google Cloud。PyTorch 由 Meta 于 2016 年开发,据称 85% 的 AI 应用在用。此前一天,亚马逊也发布了 TorchNeuron,支持把应用无重写迁移到自研芯片 Trainium 和 AWS,并提交代码将 PyTorch 功能与 Nvidia 芯片解耦。Google 称与 Meta、Hugging Fa…
推荐理由做推理部署的团队多了一条绕开 Nvidia 的路:改配置即可迁到 TPU,成本对比值得算一算
Hugging Face 博客10/21模型论文研究海外Allen AI 推出 FairStress 基准,用于衡量 LLM 在招聘、贷款、医疗、教育、住房等高风险决策中的群体公平性。传统基准只比较交换候选人身份后模型是否给出同一答案;FairStress 进一步测试模型面对「对抗性前缀」(如「高管更青睐 B」)时改变决策的难易程度。测试覆盖 Olmo、Llama、Qwen、Gemma、Claude 和 GPT 系列,横跨多个训练阶段,发现同一说服性论据会因受益群体不同而让模型改变决策的概率不同,模型解释和内部激活模式也存在差异。数据与代码已开放,并集成进 Olmo-e…
推荐理由做模型评测或风控的人可以直接下载这套基准,补上「输出一致但抗压性不一致」的盲区。
MarkTechPost10/20模型新模型发布海外Google 在 PyTorch Conference 2026 上开源 TorchTPU,这是与 Meta PyTorch 团队共同开发的 Cloud TPU 原生 PyTorch 后端。现有 PyTorch 代码只需指定 torch.device("tpu") 即可运行,TPU 由此与 GPU、CPU 并列成为 PyTorch 的原生设备。Google 表示 TorchTPU 取代 PyTorch/XLA,建议所有新工作负载使用。共开源 4 个仓库:TorchTPU、vLLM-TorchTPU、SGLang-T…
推荐理由已有 PyTorch 代码改一行 device 就能跑 TPU,vLLM、SGLang 后端同步开源,可直接评估迁移成本
MarkTechPost10/20模型新模型发布海外DeepSeek 以 Apache 2.0 协议开源了支撑其生产服务的推理框架 DeepInfer,该框架是 DeepSeek-V4.1-Flash 的推理引擎,同时发布 MIT 协议的 token 编解码层 deepseek-recipe。框架支持 1M token 上下文,可运行在 NVIDIA SM100(Blackwell)GPU 和华为昇腾 950 NPU 上,基准测试用 4 卡做 prefill、64 卡做 decode。官方称单集群每天服务 155 万亿 token,在 EP64、131072 上下文…
推荐理由可直接查看前沿实验室真实 serving 栈的并行策略、投机解码与 SWA 重算设计,并支持昇腾 NPU
Hugging Face 博客10/20模型产品发布/更新海外AnyLanguageModel 发布 1.0 版本,同时推出 swift-huggingface 1.0 和 swift-xet 1.0。该项目是 Apple Foundation Models 框架的兼容替代品,只需把 import FoundationModels 改成 import AnyLanguageModel,同一套会话代码即可调用系统模型、llama.cpp、MLX、Core ML 的本地开源模型,以及 OpenAI、Anthropic、Gemini、Ollama、Private Cloud Com…
推荐理由Apple 平台开发者只需改一行 import,就能在本地模型和多家云端 API 之间切换
TechCrunch AI10/19模型新模型发布海外Nvidia 发布面向常驻 Agent 和边缘计算的开源权重模型。Nemotron 3.5 Super VL 为 1200 亿参数,面向企业 Agent,参数少于 Nemotron 3 Ultra,但指令遵循和工具调用准确率接近。另有两款轻量 Bolt 模型,可在搭载 RTX Spark 芯片的 AI PC 和 DGX Spark 工作站本地运行,相关 PC 正通过微软、戴尔等伙伴上市。Nvidia 称 Super VL 在文档理解、财务会计、科学实验、医保理赔、安全攻防等任务上经后训练后完成速度快于 Opus 5…
推荐理由1200 亿参数开源权重模型可自建后训练和私有部署,企业选型多一个可对比选项
Hacker News Show10/19模型新模型发布海外2 个独立信源2 条讨论开发者 erikkannike 在 MacBook Air 上微调 Qwen3-4B-Instruct,发布 qwen3-4b-deslop,用 Ollama 一条命令即可运行,模型 2.5 GB。在 40 条训练未见过的提示上,AI 腔调检测分数从每千词 121 降到 12.5,68% 的回答落在人类写作区间,破折号从每千词 20.5 个降到 0。30 道事实题全部答对,体裁和长度符合率与原模型相当。训练仅用 161 条回答,作者称方法不依赖模型规模,下一步将用于更大模型。缺点是文风偏平,仍会编造人名地名。
推荐理由想本地跑一个不带 AI 腔的写作模型,2.5 GB 一条 Ollama 命令即可,破折号归零
The Verge AI10/19模型技巧与观点海外The Verge 报道,借助 Claude 等 AI 编程工具,硬件合成器、采样器和鼓机的第三方固件开发门槛大幅降低。过去为 Korg Volca 添加力度感应需要数周甚至数月,现在爱好者几天内就能把廉价合成器改造成完整鼓机。近一个月内,Elektron Model:Cycles、Digitone、Octatrack、Digitakt,Roland SP-404 MKII,Ableton Push 3 和 Move,Akai MPC Live 和 MPC One,以及 Novation Circuit、Artur…
推荐理由想了解 AI 编程在硬件固件上的真实案例,可看 70 美元合成器如何被改造成多引擎鼓机
Hacker News Show10/19模型产品发布/更新海外开源项目 Strot 提出「编译期用 Agent、运行期不用 Agent」:先用 LLM 把意图和样本编译成冻结的 Python 产物,之后每条记录都由本地 144M 小模型在 CPU 上做分类、打分、路由,约 60 ms,边际成本为零,低置信度记录会弃权而不是猜测。实测在 398 条记录的路由上,编译后准确率 92.5%,朴素做法为 74.8%;AG News 未见标签上为 86.7% 对 72.7%。已发布 PyPI 包 strot-ai。
推荐理由需要大批量分类或路由、又不想按 token 付费的团队,可以看这个「一次编译、本地推理」的省成本方案
MarkTechPost10/19模型产品发布/更新海外NVIDIA 将完整的 Run:ai 平台以 Apache 2.0 协议在 GitHub 开源,平台团队可自行检查、fork 和自托管,无需付费订阅。代码为 monorepo,包含控制平面、集群服务、安装器、CLI 和 MCP server,本地构建约 50 个 Go 服务。拆分为 4 个可独立采用的组件:KAI Scheduler(CNCF Sandbox 项目,支持 gang 调度、公平份额、拓扑感知)、GPU Fractioning Operator(基于 CUDA 13.4 原生 GPU 切分,按工作负载强…
推荐理由自托管 GPU 调度可省订阅费,本地 8 卡模拟环境 16 GB 内存即可跑起来
MarkTechPost10/19模型新模型发布海外Mistral AI 发布首个时间序列基础模型系列 Timestral,含 5M、28M、123M、209M 四个零样本预测模型,上下文最长 32,768 个时间步。据 Mistral 自测,最大版本在 GIFT-Eval、TIME、fev-bench 三个基准的预训练零样本模型中排名第一,fev-bench SQL skill 得分 50.39,高于 Google TimesFM-3 的 48.99;GIFT-Eval MASE 0.658,仅比 t0-gamma 的 0.661 领先 0.003。模型可在普通服…
推荐理由做时序预测的团队可以零样本直接跑,CPU 就能推理,权重 837 MB,不用 GPU 集群。
DEV Community · AI10/18模型技巧与观点海外开发者用 Thinking Machines 的 Tinker 微调开源模型 Qwen3-8B,做了一个「复杂度打分器」:在把 prompt 发给 AI 之前,先由这个轻量端点给出 0.00 到 1.00 的复杂度评分,应用再据此决定用便宜模型还是强模型,以降低 API 成本。作者称微调后准确率从 50% 提升到 76%,模型保持开源可下载,计划只对托管 API 收费。原文未披露训练成本、数据集规模和评测方法。
推荐理由想用便宜模型分流请求省 API 费用的开发者,可参考这个 50%→76% 的微调思路和评分分级设计
MarkTechPost10/18模型技巧与观点海外NVIDIA 推出 Structured Data Models 库,把 TabICLv2、KumoTabular(单表)和 KumoRelational(关系数据库)等预训练表格基础模型统一到一个 PyTorch 接口下。模型通过上下文学习工作:输入带标签的行和待预测行,一次前向传播即返回概率或完整预测分布,无需训练。教程对比了这两个表格模型与训练过的 scikit-learn 基线,演示复用编码上下文、读取回归的校准预测区间、扩展到 20 个类别,并指出默认预处理会丢弃时间戳和文本列、解释器存在两个陷阱,最后用…
推荐理由想跳过训练直接做表格预测的开发者,可拿到安装命令、与 sklearn 基线的对比和默认配置的坑。
MarkTechPost10/18模型新模型发布海外Kyutai 联合 Inria 和 École des Ponts 发布 REKI,一个 2.4B 参数的视觉-语言-动作模型(VLA),仅用公开数据预训练,权重已在 Hugging Face 上线。模型由 2.2B 的 Qwen3.5-2B 视觉语言模型和 0.2B 的流匹配动作专家组成,记忆覆盖最近 3 帧(间隔 1 秒),以 32 个寄存器 token 缓存在动作专家内,每帧仅多占约 2 MiB 显存、增加 0.1 ms 延迟。在单张 H100 上,每个动作块耗时 21.8 ms。基准成绩:LIBERO-Pl…
推荐理由2.4B 参数、单张 H100 上 21.8 ms 出动作块,权重已开源,做机器人操作的可直接下载试。
Techmeme10/17模型新模型发布海外DeepSeek 发布 V4.1-Flash-1017,官方称相比上一代在基准测试表现更强、任务完成更快、输出更短。原文信息有限,未披露具体基准分数、模型参数、上下文长度与定价。
推荐理由DeepSeek 小版本迭代,关注其是否延续低价策略的可等官方文档确认
Nathan Lambert10/17模型新模型发布海外Meta 发布开源权重模型 Muse Spark Open,816B 总参数、42B 激活参数,上下文窗口 1M token,原生多模态,面向编码与 Agent 任务。作者称其是当前最强的美国开源模型,性能高于 GLM 5.2、接近 DeepSeek V4.1 Flash,落后于 GLM 5.3 和 Kimi K3。同期 Reflection 发布首个模型 Beam,Mistral 公布 Mistral Large 4 得分 38 但未开源权重。作者认为美国与中国最佳开源模型的差距大约缩小了一半。
推荐理由想选开源模型做 Agent 的人可对照:816B/42B 激活、1M 上下文
MarkTechPost10/17模型新模型发布海外2 个独立信源DeepSeek 发布 V4.1-Flash 的新检查点 V4.1-Flash-1017,已在官网、App 和 API 上线,API 模型名为 deepseek-flash。官方称在全部 11 项基准上比 9 月版本高 2.0 到 11.1 分,其中 DeepSWE v1.1 得 77.0,高于表中 Claude Opus 5 的 74.0;HLE 无工具仅 42.6,低于 Opus 5 的 56.3。模型为多模态 MoE,552B 主干加 196B Engram 参数,prefill 激活 8B、decode 激…
推荐理由编码模型 DeepSWE 77.0 反超 Opus 5,且 Search API 开放
MarkTechPost10/17模型新模型发布海外TypeSafe 于 2026 年 9 月 15 日发布决策模型 Jev:用户定义可选答案,模型返回标签、分数或 yes/no 概率,不生成文本。定价为每 100 万输入 token 0.042 美元,输出免费,上下文 64k,仅支持文本,权重闭源且需排队申请。约 4 周内,Cloudflare、OpenAI、Perplexity、Liquid AI、AWS Strands Labs 及独立开发者推出至少 20 个替代品,参数从 287M 到 35B-A3B。Cloudflare Clef 在 BANKING77 …
推荐理由想自托管或做分类、打分任务的团队,可对照 20 个替代品的参数、许可和价格选型。
MarkTechPost10/17模型新模型发布海外阶跃星辰(StepFun)以开放权重形式发布 Step 5 Preview,FP8 与 BF16 权重已上线 Hugging Face 和 ModelScope。模型总参数 600B,每 token 激活 27B,上下文最长 1M token,定位长程 Agent 任务,如代码库导航、多文件修改、长文档与图表分析。部署门槛较高:FP8 需 4 张 B300 或 8 张 H200,BF16 需 8 张 B300 或 16 张 H200。Artificial Analysis 测得智能指数 43.7,AA-LCR 长上…
推荐理由1M 上下文加 27B 激活,长文档和代码库场景可自托管;但 Terminal-Bench 33.3%…
MarkTechPost10/17模型产品发布/更新海外Perplexity 开源了支撑 Perplexity Computer 全部任务的沙箱平台 SPACE,采用 Apache 2.0 协议,代码托管在 GitHub。每个 Agent 任务运行在独立的 Firecracker microVM 中,凭证和出站流量由 VM 外部控制,密钥不进入 guest。Rust 代码库,版本 0.8.0,提供 HTTP API 和 SSE,需 Linux x86_64 + KVM + btrfs + Docker,不支持 macOS。生产环境创建延迟中位数从 185 ms 降至 6…
推荐理由做编码或浏览 Agent 的团队可直接自托管这套经生产验证的隔离层,创建延迟 60 ms
DEV Community · AI10/17模型产品发布/更新海外开发者发布开源项目,通过读取 OBS 虚拟摄像头画面,用 OCR 识别 BGMI 直播击杀信息中的玩家名,再用训练好的检测器分类击杀图标,在毫秒级更新直播叠加层上的实时积分榜。项目针对 BGMI 不开放 API 的问题,先过滤无事件帧,只把可能含信息的帧送入较重的 ML 模型,可处理 60 FPS 高清直播流。作者在学院内实测一场比赛,赛后数秒内生成积分表。代码已开源,README 提供本地部署步骤。
推荐理由做直播工具或 OCR 落地的开发者可参考其帧过滤省算力思路,代码可直接跑
The Decoder10/17模型政策监管海外中国商务部和科技部发布禁止和限制出口技术目录的修订草案,涉及大模型、Agent、算力集群和数据处理等 23 项关键技术。能自主编写或修改恶意软件、攻击关键基础设施、军事或政府机构的 AI 工具被全面禁止出口;用于发现软件漏洞的 AI 工具则面临新的出口限制。大模型在两种情况下受出口管制:一是基于中国《数据安全法》定义的“重要数据”训练并提供服务,合法公开数据除外,允许不超过 0.1% 的微量数据,前提是经过清洗、不出现在输出中且不实质提升研发能力;二是模型核心技术,包括权重、检查点、源代码、架构和训练推理方法,触发…
推荐理由出口管制的算力、参数、排名三条门槛,直接决定哪些中国开源模型还能被海外部署。
Hugging Face 博客10/16模型新模型发布海外NVIDIA 联合 IIT Madras 的 AI4Bharat 实验室发布 Nemotron-pretraining-Indic-v1,约 2.8 万亿 token,覆盖印度宪法列出的 22 种语言,含 12 种语言的罗马化文本,共 34 种语言-文字组合。同时开源配套的 GPU 加速数据生成流水线,包含提示词、LLM 工作流和质量校验,可迁移到自有语料。数据由精选英文材料(数学、代码、问答)翻译而来,每条记录可追溯到源文档,并保留公式、表格和代码。AI4Bharat 负责人 Mitesh Khapra 称印度语…
推荐理由做印度语或多语言模型的团队可直接用这 2.8 万亿 token,或复用其开源流水线生成自有语料