模型
全球大模型的发布、更新、开源、价格变化和评测动态。
共 2081 条
- Sakana AI 与 Modal 合作部署约 1 万亿参数 MoE 模型
Sakana AI 在 Modal 上部署约 1 万亿参数的 MoE 模型 Sakana Namazu,面向日本商业场景、实时网页搜索和代码执行。Modal 团队针对日语保留调优 NVFP4 量化:只量化路由专家,注意力、路由器和共享专家保持 BF16;校准数据以日语对话为主,覆盖全部 23,040 个专家。量化后日语指令跟随能力与生产检查点持平。另训练定制 DFlash 草稿模型用于投机解码,通用草稿模型接受率不足 40%。服务运行在 Modal 全球 GPU 池上,无需预留容量。
Modal6 天前海外新模型发布42
- vLLM 在 16 张 H200 上优化 GLM-5.3 长上下文推理
vLLM 团队公布 GLM-5.3 在 16 张 H200 上的部署优化方案,采用 1 个 prefill 节点加 1 个 decode 节点的分离架构。Prefill Context Parallelism(PCP)按 token 而非注意力头切分 prompt,更适配 GLM-5.3 的稀疏注意力;Decode Context Parallelism(DCP)按 token 分片 prefill 引擎的 KV cache,使 100 万 token 上下文能装进 prefill 节点;Hybrid HiSparse 让 decode 把 KV 放在主机内存。在 AgentX 上,PCP8 × DCP8 prefill 加 Hybrid HiSparse decode 的单用户速度是同等吞吐下数据并行部署的 1.7–3.2 倍,也是测试中唯一能服务 100 万 token 上下文的配置。
vLLM6 天前海外模型42
- Hugging Face 上线 torch-neuronx 模型支持查询工具
Hugging Face 博客介绍了一个 Space 工具,用于查询 Hub 上的热门模型能否在 AWS Trainium 上不经修改直接运行。该工具按下载量和趋势排名列出模型,每行给出测试结果、模型分片所用的 Trainium 核心数、运行实际耗时(含编译)和峰值显存。用户可切换视图搜索指定模型,并选择 neuronx-cc 与 Transformers 版本。目前仅测试 Transformers 的文本生成和图文模型,计划扩展到 diffusers 等。工具还提供 run.py 脚本和 NEFF 缓存同步命令,用于跳过首次编译。测试标准是生成 32 个 token 并校验,单核时与 CPU 结果比对,分片时由小模型判断英文是否流畅。
Hugging Face 博客6 天前海外模型37
- vLLM 首日支持 MiniMax-M3.1-Flash,Rubin 上单用户 724.9 tok/s
vLLM 在发布当天就支持了 MiniMax-M3.1-Flash,覆盖 NVIDIA Blackwell、Rubin 和 AMD MI350 系列 GPU。该模型采用 NVFP4 KV cache、NVFP4 量化 MoE 权重和 DSpark 投机解码草稿模型。性能方面:Blackwell 上索引器 QK 解码快 1.7 倍,稀疏注意力解码快 1.3 倍;在 4× GB300、512K 上下文下,索引器解码上下文并行快 3.3 倍;AMD MI350 系列整体提升 2–3 倍。Agentic 场景下,GB300 单用户最高 418.9 tok/s,Rubin 单用户 724.9 tok/s、单 GPU 总吞吐 191.5K tok/s。同时支持基于 veRL、FSDP2 和 LoRA 的端到端 RL。
- vLLM 在 GB300 NVL72 上服务 DeepSeek-V4.1-Flash
vLLM 官方博客称,在单台 NVIDIA GB300 NVL72 机架上,采用 P/D 分离和 Wide-EP 的 vLLM 运行 DeepSeek-V4.1-Flash,在 SemiAnalysis AgentX 上达到每 GPU 954K tokens/s,单用户 P90 为 196 tokens/s,是首个帖子中单节点结果的 7.9 倍,按 DeepSeek 非高峰价格计为每 GPU 小时 38.96 美元。专用 decode 路径单用户可达 826 tokens/s。与 DeepSeek 自研引擎 DeepInfer 相比,batch size 8–256 范围内 vLLM 的 decode 吞吐差距在 6% 以内,prefill 与其公开曲线接近。文章还列出 DEP 小实例做 prefill、Wide-EP 配合 EPLB、NVL72 规模下 CPU 开销等优化经验。
vLLM6 天前海外模型43
- Claude 企业版把 Chat 和 Cowork 合并为统一体验
Anthropic 宣布 Chat 与 Cowork 合并后的统一 Claude 体验正式向 Enterprise 计划开放,此前该体验已于 9 月面向 Pro 和 Max 计划推出。合并后,用户在网页、桌面和移动端使用同一个 Claude,对话从聊天开始,需要运行代码或处理文件时自动转入 Anthropic 托管的云端环境继续执行,关闭电脑后任务仍会继续。管理员可按角色控制访问权限,并新增 Efficient mode 将体验限制在 Sonnet 和 Haiku 模型上。价格仍按用量计费,官方称 Opus 5.5 在典型工作负载下比 Opus 5 便宜 40%,Sonnet 5.5 在多数任务上比 Sonnet 5 便宜最多 30%。
Claude 博客6 天前海外模型42
- OpenAI 宣布全面开放决策 API:基于 GPT‑6 Luna,每百万 token 输入 0.10 美元
IT之家6 天前国内模型33
- OpenAI 奥尔特曼:面对 AI,数学家们起初会觉得“我们完蛋了”,最终却还是接受现实
IT之家6 天前国内模型33
- 允许员工“不务正业”的车库项目谢幕,微软调整运营 17 年的 Garage 创意孵化平台
IT之家6 天前国内模型33
- 苹果更新 iWork 生产力套件 15.4.1:引入 AI 智能助理,适配 iPhone Duo
IT之家6 天前国内模型33
- The next-gen Xbox won’t cost you $1,800. It can’t. Can it?
Fortune dropped a bombshell report on the future of gaming this week. According to the publication’s Microsoft insiders, the next Xbox is projected to cost between $1,200 and $1,800 when it arrives in 2028.My first react…
The Verge AI6 天前海外新模型发布30
- Switch 2 遭软件破解,可运行自制程序
安全研究员 Sammy Hajhamid 演示了 Switch 2 的纯软件部分越狱,获得“用户态”权限,可运行自制程序、逆向和修改 Switch 2 游戏、导出存档,并通过 MMIO 访问大部分外设。该破解依赖原版 Switch 上的 SmileBasic 4,属于“有线”破解,需要同一网络下的 macOS 或 Linux 电脑运行 node.js 包来获取特权系统访问。他借助 OpenAI 的 Codex 分析 SmileBasic 语言解释器,约两周后发现删除数组元素时的 32 位整数溢出,借此获得数组指针,进而读写部分系统内存。
Ars Technica AI6 天前海外模型31
- MIT 科技评论:企业 AI 的竞争优势在于模型之外的 serving harness
MIT 科技评论指出,企业 AI 的竞争重点正从模型能力转向围绕模型搭建的 serving harness,即架构、内存管理、调度与优化决策。文章认为,生产环境中的延迟、并发、内存压力、GPU 利用率和基础设施成本等约束,比模型准确率更能决定部署成败;一个准确率略高但推理成本翻倍的模型未必是更好的生产选择。文章建议先明确工作负载,再由约束决定架构,把 serving 架构视为投资决策。原文正文在此处截断,后续内容信息有限。
MIT Technology Review10/23海外模型34
- Arc 浏览器 12 月 22 日停服,公司转向 AI 浏览器 Dia
The Browser Company 宣布 Arc 浏览器将于 2026 年 12 月 22 日在 Mac 和 Windows 上完全停止工作,账号停用、个人数据 30 天内删除,用户被引导迁移至 AI 浏览器 Dia。停服分三步:即日起停止注册新账号;11 月 23 日 iOS 和 Android 版 Arc Search 失去 AI 功能(含 Browse for Me),无法登录和同步标签页,仅保留基础本地浏览;12 月 22 日 Arc Search 从 Google Play 下架。公司称停服原因是 AI 时代维持浏览器安全的成本持续上升。Dia 承接 Arc 的 Profiles、垂直标签页、Pinned Tab Groups 等功能,密码、书签、扩展和历史可迁移,Arc 原有功能在 Dia 中免费、AI 为可选。
TechCrunch AI10/23海外模型34
- 又一国产决策模型发布:面向企业高频判断任务,23 项开源基测准确率超过微软和 JEV
InfoQ 中国10/23国内模型33
- 宝马 2027 款 X5 与 iX5 同台:燃油、插混、纯电并行
宝马发布 2027 款 X5 与 iX5,同一车系同时提供燃油、插混和纯电三种动力。燃油版 X5 40 xDrive 搭载 3.0 L 涡轮增压直列六缸发动机,输出 394 hp(294 kW)、428 lb-ft(580 Nm),48 V 轻混系统可额外提供 148 lb-ft(200 Nm)扭矩,综合油耗约 26 mpg(9 L/100 km),满油续航 569 英里(915 km)。纯电 iX5 沿用 iX3 的第六代电驱与新一代座舱和计算平台,后续还将推出氢动力版本。
Ars Technica AI10/23海外模型24
- OpenAI 开放 Decisions API,决策模型市场竞争升温
OpenAI 于周四向所有客户开放 Decisions API,该模型基于 ChatGPT Luna 重新配置以提升推理速度、降低成本,并非专门训练的决策模型。产品负责人 Nikunj Handa 称延迟从 1-3 秒降至 100-180 毫秒,并新增语音和视觉模态。该 API 于 9 月 29 日开发者日发布。客户 Box、Datadog、Ramp、Speak 已用它替换 LLM 提升吞吐,Speak 称操作间隔从 1.4 秒降至 0.13 秒。该市场由 TypeSafe 的 Jev 模型开创,TypeSafe 估值达 76 亿美元。
TechCrunch AI10/23海外新模型发布41
- OpenAI 正式发布 Decisions API,决策速度最高提升 10 倍
OpenAI 宣布 Decisions API 正式可用。该 API 基于 GPT-6 Luna,专门处理答案范围有限的问题,让应用和 Agent 对文本、图像和结构化输入做近实时决策,速度比通过 Responses API 调用 GPT-6 Luna 快最多 10 倍。相比公测版,新增 GPT-Live 原生集成、复用上下文的 prompt caching、美国与欧盟推理驻留;支持原生 JSON 输入、在问题指令中附带图像,单次请求最多可提 400 个问题(此前上限的两倍),并扩充了亚洲多地容量。API 返回三种答案类型:predicate 返回 0 到 1 的概率,choice 返回预设选项及置信度,score 返回按评分标准加权的分数。OpenAI 内部团队已用于缩短响应时间、交易分类和内容主题归类。
OpenAI News10/23海外模型46
- 三星称 Galaxy Z Fold 8 欧洲销量同比增长 45%
三星英国在博客中称,2026 年折叠屏产品线在欧洲的销售速度明显快于去年:Galaxy Z Fold 8 与 Z Fold 8 Ultra 合计销量比 Galaxy Z Fold 7 增长 45%。三星未公布 Z Flip 8 的销量,但此前曾表示大折叠机型约占其折叠屏销量的 80%。三星还称,9 月 6 日至 12 日这一周,Z8 系列在欧洲的搜索量上涨 460%;苹果 iPhone Duo 于 9 月 9 日发布。整个 9 月,Z Fold 8 的搜索量上涨 260%。三星未在文中提及苹果或 iPhone Duo。
Ars Technica AI10/23海外模型27
- Delta 2.0 模拟器支持 iPhone Duo 折叠屏
Delta 游戏模拟器发布 2.0 版本,针对苹果折叠机 iPhone Duo 优化:控制器皮肤适配竖屏和横屏的每种姿态,折叠机身时模拟的 DS 游戏自动进入睡眠模式,类似合上真机 DS 的翻盖。新增 Sega Genesis 游戏支持,以及还原经典 Genesis 手柄外观的 iPhone、iPad 皮肤;加入面向经典宝可梦游戏的 DLC 功能,提供活动道具、稀有宝可梦等,支持 Game Boy Advance 全部主线作品,首个 DLC 即将上线,由宝可梦 ROM 修改社区开发,未使用 AI 工具。另有实验性功能:支持 Epilogue 的 GB/SN Operator 外设,可在 iPhone、iPad 上玩实体卡带;自定义滤镜。界面按 Liquid Glass 设计语言重做,新增动态手柄皮肤、最近和收藏页面。
The Verge AI10/23海外模型27
- Meta 财报:Muse 下载超 1000 万,扎克伯格押注 Agent 网络
Meta 在第三季度财报电话会上披露,个人 AI Agent 应用 Muse 自 9 月上线以来,在美国和加拿大已有超过 1000 万用户下载并完成设置,扎克伯格称这是 Meta「史上最成功的发布之一」。其中约四分之一用户每日使用,四分之一用户通过 Muse 购物,平均单笔消费超过 200 美元,Meta 对每笔交易抽成。扎克伯格预测,未来数十亿人将使用 Muse,不同用户的 Muse 之间会互相沟通和交易,形成「大规模 Muse 网络」,并称 Muse 有望在几年内成为比 Instagram 和 Facebook 更赚钱的业务。他未披露留存数据,也未给出 AI 数据中心投入的回报时间表。
The Verge AI10/23海外模型41
- agent-usage-guard:防止 Claude Code 十分钟耗尽五小时额度
开发者 rbartoli 发布 Claude Code 插件 agent-usage-guard,在消耗发生前拦截失控用量。作者称一次研究任务触发了 394 次子代理调用,其中 341 个同时运行,10 分钟内消耗 8400 万 context token,导致额度锁定;60 天日志中有 12 次锁定。插件读取 5 小时与每周用量百分比,默认窗口用量达 80% 时新代理需批准、95% 时拒绝,5 小时窗口 10 分钟涨 20 个百分点也需批准;同时限制并发子代理与重试循环。纯本地运行,不存提示词,钩子失败时放行。需 Claude Code v2.1.287 以上。
Hacker News Show10/23海外模型48
- 企业 AI 越用越复杂,如何用一个 Gateway 管好模型、Agent 和成本?| 技术趋势
InfoQ 中国10/23国内模型33
- Google 推出 Agent Compute Engine,为每个 Gemini Agent 分配独立微虚拟机
Google 发布 Agent Compute Engine,为每个 AI Agent 分配一台硬件隔离的微虚拟机,由 Titanium 芯片提供安全隔离。该服务已用于支撑 Gemini,将在未来几个月开放预览。Agent 空闲时虚拟机自动暂停,释放算力给其他任务;虚拟机之间共享内存以降低单机运行成本。Google 同时开源了 Kubernetes 运行时 Agent Substrate,称单台服务器可容纳的 Agent 数量提升 10 倍;在 20 万 Agent 的测试中,挂起与恢复耗时不到 500 毫秒。管控方面新增 token 追踪、模型路由,并支持 Ping Identity、SailPoint 等第三方身份提供商,相关能力将扩展到 Cloud Run、GKE 和托管端点。
The Decoder10/23海外模型2 个信源55
- 英伟达开源 OpenShell:为自主 AI Agent 提供安全沙箱运行时
英伟达发布 OpenShell 0.1.x,一个面向自主 AI Agent 集群的安全私有运行时。它在内核层对每次文件访问、系统调用和网络连接执行策略检查,Agent 运行在隔离沙箱中,看不到真实凭证,凭证只注入到发往已批准端点的请求。策略变更在生效前会经过形式化验证,标出新增的高风险访问(如带凭证访问新主机),等待人工审核。支持 Linux、Apple Silicon macOS 和 WSL 2,依赖 Docker、Podman 或主机虚拟化,提供 CLI、SDK、Helm 部署和 Agent Skills。
Hacker News · AI10/23海外模型57
- 马斯克称特斯拉 2030 年年销 500 万辆,销量已连续两年下滑
马斯克在特斯拉财报电话会上表示,公司目标是在 2030 年前后实现年交付 500 万辆,并称「有不错的把握」达成。这一数字较他 2020 年提出的 2030 年年销 2000 万辆大幅下调。特斯拉交付量在 2023 年达到 181 万辆的峰值后连续两年下滑:2024 年 179 万辆,2025 年 164 万辆。2026 年至今已售出 132 万辆,第四季度需再售约 31 万辆才能避免连续第三年下滑。原文指出,要实现 500 万辆目标,特斯拉需要彻底重构商业模式,而目前既没有合适的产品,也没有足够的产能。
The Verge AI10/23海外模型27
- Liquid AI 发布 RIPL 实时推理引擎,LFM 端到端延迟低于 50 ms
Liquid AI 发布 Liquid RIPL(Real-time Inference Pipeline),一个在实时请求路径中运行 Liquid Foundation Models(LFM)的低延迟推理引擎,端到端返回完整生成结果低于 50 ms,并称在峰值负载下持续有请求到达时延迟仍能保持。支持 LFM2.5 系列 230M 到 2.6B 参数模型,运行在 NVIDIA H100、H200、B200 和 RTX PRO 6000 上,基准测试用单张 B200。据其自测,p95 延迟比 vLLM 上的 Qwen3.5 低 5.6 到 28.4 倍:LFM2.5-1.2B 为 155.8 ms,Qwen3.5-0.8B 为 4431 ms(256 入、128 出);LFM2.5-2.6B 仅 5.6 倍(449.1 ms 对 2499 ms),长请求下低于 50 ms 不成立。
MarkTechPost10/23海外模型38
- Arc 浏览器宣布关停
The Verge 报道,Arc 浏览器即将关停。原文正文内容混入了无关的 Nintendo Switch 2 破解信息,关于 Arc 关停本身只给出了标题,没有说明关停时间、影响范围或用户数据如何处理。原文信息有限。
The Verge AI10/23海外模型28
- Gradium 开源 31M 参数端侧 TTS 模型 Phonon
巴黎语音 AI 公司 Gradium(从 Kyutai 分拆)开源端侧 TTS 模型系列 Phonon。英文版 Phonon 31m 采用 Apache 2.0 协议,q8 GGUF 文件仅 64.5 MB,输出 24 kHz 单声道音频,可在 CPU、手机、树莓派 5、浏览器(WASM/WebGPU)上运行,无需 GPU 和云端调用。CPU 上首帧音频延迟约 7 ms。在 Gradium 自测的 500 句困难集上 WER 为 1.70%,对比 Kokoro 的 3.50%;但在 Seed-TTS 评测集上 WER 为 0.51%,落后于 Kokoro(0.45%)和 Magpie(0.46%)。另有 40m 版本及多语言版,采用 CC BY-NC 4.0 协议。
MarkTechPost10/23海外新模型发布41