全部资讯

全部资讯模型
共 2078 条 · 第 11/52 页
MarkTechPost6 天前模型产品发布/更新海外

You.com 推出推理路由,聚合 12 个开源模型并承诺 99.9% 可用性

You.com 上线 Inference Router,一个兼容 OpenAI 和 Anthropic 接口的托管 API,可在 12 个开源权重模型间路由请求,承诺 99.9% 最低可用性 SLA 和零数据保留(ZDR),全部托管在美国境内,按 token 计费且不收平台费。模型从 GPT-OSS 120B(125K 上下文)到 Kimi K3、Qwen3.8 Max(1M 上下文),Kimi K3 为 2.8T 参数,Qwen3.8 Max 为 2.4T MoE。请求先走自有推理容量,满载或故障时切换到 Par…

推荐理由需要合规 ZDR 和美国托管、又不想签大额承诺的团队,改个 base URL 就能接入 12 个开源模型。

Techmeme6 天前模型行业动态海外

OpenAI 怀疑三名被解雇安全研究员向外部泄露模型设计

据《华尔街日报》报道,OpenAI 怀疑三名被解雇的安全研究员将内部模型设计泄露给 AI 安全研究者 Ryan Greenblatt,渠道包括 Signal 上的阅后即焚聊天。公司以不当处理敏感信息为由解雇了这三人,他们此前一直在争取保留模型内部运作的相关信息。原文信息有限,未披露泄露内容的具体范围与时间。

推荐理由了解 OpenAI 安全团队内部动荡的最新进展,涉及模型机密外流与 Signal 私聊。

Hugging Face 博客6 天前模型技巧与观点海外

Hugging Face 上线 torch-neuronx 模型支持查询工具

Hugging Face 博客介绍了一个 Space 工具,用于查询 Hub 上的热门模型能否在 AWS Trainium 上不经修改直接运行。该工具按下载量和趋势排名列出模型,每行给出测试结果、模型分片所用的 Trainium 核心数、运行实际耗时(含编译)和峰值显存。用户可切换视图搜索指定模型,并选择 neuronx-cc 与 Transformers 版本。目前仅测试 Transformers 的文本生成和图文模型,计划扩展到 diffusers 等。工具还提供 run.py 脚本和 NEFF 缓存同步命令,…

推荐理由要在 AWS Trainium 上跑模型的开发者,可直接查目标模型是否兼容,并拿到现成脚本和缓存命令。

vLLM6 天前模型新模型发布海外

vLLM 首日支持 MiniMax-M3.1-Flash,Rubin 上单用户 724.9 tok/s

vLLM 在发布当天就支持了 MiniMax-M3.1-Flash,覆盖 NVIDIA Blackwell、Rubin 和 AMD MI350 系列 GPU。该模型采用 NVFP4 KV cache、NVFP4 量化 MoE 权重和 DSpark 投机解码草稿模型。性能方面:Blackwell 上索引器 QK 解码快 1.7 倍,稀疏注意力解码快 1.3 倍;在 4× GB300、512K 上下文下,索引器解码上下文并行快 3.3 倍;AMD MI350 系列整体提升 2–3 倍。Agentic 场景下,GB300…

推荐理由要在 Blackwell、Rubin 或 MI350 上部署 MiniMax-M3.1-Flash

vLLM6 天前模型技巧与观点海外

vLLM 在 GB300 NVL72 上服务 DeepSeek-V4.1-Flash

vLLM 官方博客称,在单台 NVIDIA GB300 NVL72 机架上,采用 P/D 分离和 Wide-EP 的 vLLM 运行 DeepSeek-V4.1-Flash,在 SemiAnalysis AgentX 上达到每 GPU 954K tokens/s,单用户 P90 为 196 tokens/s,是首个帖子中单节点结果的 7.9 倍,按 DeepSeek 非高峰价格计为每 GPU 小时 38.96 美元。专用 decode 路径单用户可达 826 tokens/s。与 DeepSeek 自研引擎 Dee…

推荐理由做 DeepSeek 大模型推理部署的团队可参考:单 GPU 954K tokens/s

vLLM6 天前模型技巧与观点海外

vLLM 在 16 张 H200 上优化 GLM-5.3 长上下文推理

vLLM 团队公布 GLM-5.3 在 16 张 H200 上的部署优化方案,采用 1 个 prefill 节点加 1 个 decode 节点的分离架构。Prefill Context Parallelism(PCP)按 token 而非注意力头切分 prompt,更适配 GLM-5.3 的稀疏注意力;Decode Context Parallelism(DCP)按 token 分片 prefill 引擎的 KV cache,使 100 万 token 上下文能装进 prefill 节点;Hybrid HiSpar…

推荐理由部署长上下文 Agent 服务可参考:PCP8×DCP8 单用户速度提升 1.7–3.2 倍

Claude 博客6 天前模型产品发布/更新海外

Claude 企业版把 Chat 和 Cowork 合并为统一体验

Anthropic 宣布 Chat 与 Cowork 合并后的统一 Claude 体验正式向 Enterprise 计划开放,此前该体验已于 9 月面向 Pro 和 Max 计划推出。合并后,用户在网页、桌面和移动端使用同一个 Claude,对话从聊天开始,需要运行代码或处理文件时自动转入 Anthropic 托管的云端环境继续执行,关闭电脑后任务仍会继续。管理员可按角色控制访问权限,并新增 Efficient mode 将体验限制在 Sonnet 和 Haiku 模型上。价格仍按用量计费,官方称 Opus 5.5…

推荐理由企业管理员可看:新增 Efficient mode 和分层支出限额,Opus 5.5 典型负载成本降 40%

Modal6 天前模型新模型发布海外

Sakana AI 与 Modal 合作部署约 1 万亿参数 MoE 模型

Sakana AI 在 Modal 上部署约 1 万亿参数的 MoE 模型 Sakana Namazu,面向日本商业场景、实时网页搜索和代码执行。Modal 团队针对日语保留调优 NVFP4 量化:只量化路由专家,注意力、路由器和共享专家保持 BF16;校准数据以日语对话为主,覆盖全部 23,040 个专家。量化后日语指令跟随能力与生产检查点持平。另训练定制 DFlash 草稿模型用于投机解码,通用草稿模型接受率不足 40%。服务运行在 Modal 全球 GPU 池上,无需预留容量。

推荐理由万亿参数 MoE 的量化与投机解码实操细节,做大规模推理部署的团队可直接参考

The Verge AI6 天前模型新模型发布海外

The next-gen Xbox won’t cost you $1,800. It can’t. Can it?

Fortune dropped a bombshell report on the future of gaming this week. According to the publication’s Microsoft insiders, the next Xbox is projected to cost between $1,200 and $1,800 when it arrives in 2028.My first react…

推荐理由模型发布/更新类信息,来自 The Verge AI,建议按需查看原文。

Ars Technica AI6 天前模型产品雷达海外

Switch 2 遭软件破解,可运行自制程序

安全研究员 Sammy Hajhamid 演示了 Switch 2 的纯软件部分越狱,获得“用户态”权限,可运行自制程序、逆向和修改 Switch 2 游戏、导出存档,并通过 MMIO 访问大部分外设。该破解依赖原版 Switch 上的 SmileBasic 4,属于“有线”破解,需要同一网络下的 macOS 或 Linux 电脑运行 node.js 包来获取特权系统访问。他借助 OpenAI 的 Codex 分析 SmileBasic 语言解释器,约两周后发现删除数组元素时的 32 位整数溢出,借此获得数组指针,…

推荐理由想了解 AI 编码工具如何被用于真实漏洞挖掘,这里有 Codex 加自定义测试装置两周找到整数溢出的完整路径

MIT Technology Review6 天前模型技巧与观点海外

MIT 科技评论:企业 AI 的竞争优势在于模型之外的 serving harness

MIT 科技评论指出,企业 AI 的竞争重点正从模型能力转向围绕模型搭建的 serving harness,即架构、内存管理、调度与优化决策。文章认为,生产环境中的延迟、并发、内存压力、GPU 利用率和基础设施成本等约束,比模型准确率更能决定部署成败;一个准确率略高但推理成本翻倍的模型未必是更好的生产选择。文章建议先明确工作负载,再由约束决定架构,把 serving 架构视为投资决策。原文正文在此处截断,后续内容信息有限。

推荐理由做企业 AI 部署的架构师和 CTO 可据此重新分配预算:先看延迟和 GPU 成本,再选模型。

TechCrunch AI10/23模型产品发布/更新海外

Arc 浏览器 12 月 22 日停服,公司转向 AI 浏览器 Dia

The Browser Company 宣布 Arc 浏览器将于 2026 年 12 月 22 日在 Mac 和 Windows 上完全停止工作,账号停用、个人数据 30 天内删除,用户被引导迁移至 AI 浏览器 Dia。停服分三步:即日起停止注册新账号;11 月 23 日 iOS 和 Android 版 Arc Search 失去 AI 功能(含 Browse for Me),无法登录和同步标签页,仅保留基础本地浏览;12 月 22 日 Arc Search 从 Google Play 下架。公司称停服原因是 A…

推荐理由Arc 用户需在 12 月 22 日前导出数据并迁移到 Dia,否则数据 30 天内删除

Ars Technica AI10/23模型行业动态海外

宝马 2027 款 X5 与 iX5 同台:燃油、插混、纯电并行

宝马发布 2027 款 X5 与 iX5,同一车系同时提供燃油、插混和纯电三种动力。燃油版 X5 40 xDrive 搭载 3.0 L 涡轮增压直列六缸发动机,输出 394 hp(294 kW)、428 lb-ft(580 Nm),48 V 轻混系统可额外提供 148 lb-ft(200 Nm)扭矩,综合油耗约 26 mpg(9 L/100 km),满油续航 569 英里(915 km)。纯电 iX5 沿用 iX3 的第六代电驱与新一代座舱和计算平台,后续还将推出氢动力版本。

推荐理由想了解宝马新世代电驱技术如何下放到 X5 这一级别,可以看这篇实测

TechCrunch AI10/23模型新模型发布海外

OpenAI 开放 Decisions API,决策模型市场竞争升温

OpenAI 于周四向所有客户开放 Decisions API,该模型基于 ChatGPT Luna 重新配置以提升推理速度、降低成本,并非专门训练的决策模型。产品负责人 Nikunj Handa 称延迟从 1-3 秒降至 100-180 毫秒,并新增语音和视觉模态。该 API 于 9 月 29 日开发者日发布。客户 Box、Datadog、Ramp、Speak 已用它替换 LLM 提升吞吐,Speak 称操作间隔从 1.4 秒降至 0.13 秒。该市场由 TypeSafe 的 Jev 模型开创,TypeSafe …

推荐理由做 Agent 或分类工作流的开发者可关注:延迟降到 100-180 毫秒、成本低于 LLM,且已可直接调用。

OpenAI News10/23模型产品发布/更新海外

OpenAI 正式发布 Decisions API,决策速度最高提升 10 倍

OpenAI 宣布 Decisions API 正式可用。该 API 基于 GPT-6 Luna,专门处理答案范围有限的问题,让应用和 Agent 对文本、图像和结构化输入做近实时决策,速度比通过 Responses API 调用 GPT-6 Luna 快最多 10 倍。相比公测版,新增 GPT-Live 原生集成、复用上下文的 prompt caching、美国与欧盟推理驻留;支持原生 JSON 输入、在问题指令中附带图像,单次请求最多可提 400 个问题(此前上限的两倍),并扩充了亚洲多地容量。API 返回三种…

推荐理由做 Agent 路由、分类、打分的开发者可直接换用,单次请求最多 400 个问题且快 10 倍。

Ars Technica AI10/23模型行业动态海外

三星称 Galaxy Z Fold 8 欧洲销量同比增长 45%

三星英国在博客中称,2026 年折叠屏产品线在欧洲的销售速度明显快于去年:Galaxy Z Fold 8 与 Z Fold 8 Ultra 合计销量比 Galaxy Z Fold 7 增长 45%。三星未公布 Z Flip 8 的销量,但此前曾表示大折叠机型约占其折叠屏销量的 80%。三星还称,9 月 6 日至 12 日这一周,Z8 系列在欧洲的搜索量上涨 460%;苹果 iPhone Duo 于 9 月 9 日发布。整个 9 月,Z Fold 8 的搜索量上涨 260%。三星未在文中提及苹果或 iPhone Du…

推荐理由想知道苹果入局折叠屏是否带动三星销量,这里有 45% 和 460% 两个具体数字

The Verge AI10/23模型产品发布/更新海外

Delta 2.0 模拟器支持 iPhone Duo 折叠屏

Delta 游戏模拟器发布 2.0 版本,针对苹果折叠机 iPhone Duo 优化:控制器皮肤适配竖屏和横屏的每种姿态,折叠机身时模拟的 DS 游戏自动进入睡眠模式,类似合上真机 DS 的翻盖。新增 Sega Genesis 游戏支持,以及还原经典 Genesis 手柄外观的 iPhone、iPad 皮肤;加入面向经典宝可梦游戏的 DLC 功能,提供活动道具、稀有宝可梦等,支持 Game Boy Advance 全部主线作品,首个 DLC 即将上线,由宝可梦 ROM 修改社区开发,未使用 AI 工具。另有实验性功…

推荐理由用 iPhone Duo 玩模拟器的人可以看折叠休眠和分屏细节;宝可梦玩家可等 GBA 主线 DLC。

The Verge AI10/23模型行业动态海外

Meta 财报:Muse 下载超 1000 万,扎克伯格押注 Agent 网络

Meta 在第三季度财报电话会上披露,个人 AI Agent 应用 Muse 自 9 月上线以来,在美国和加拿大已有超过 1000 万用户下载并完成设置,扎克伯格称这是 Meta「史上最成功的发布之一」。其中约四分之一用户每日使用,四分之一用户通过 Muse 购物,平均单笔消费超过 200 美元,Meta 对每笔交易抽成。扎克伯格预测,未来数十亿人将使用 Muse,不同用户的 Muse 之间会互相沟通和交易,形成「大规模 Muse 网络」,并称 Muse 有望在几年内成为比 Instagram 和 Facebook…

推荐理由Muse 上线一个月就有 1000 万下载、单笔消费 200 美元,做 Agent 电商和交易抽成的人可以看这个数字。

Hacker News Show10/23模型产品发布/更新海外

agent-usage-guard:防止 Claude Code 十分钟耗尽五小时额度

开发者 rbartoli 发布 Claude Code 插件 agent-usage-guard,在消耗发生前拦截失控用量。作者称一次研究任务触发了 394 次子代理调用,其中 341 个同时运行,10 分钟内消耗 8400 万 context token,导致额度锁定;60 天日志中有 12 次锁定。插件读取 5 小时与每周用量百分比,默认窗口用量达 80% 时新代理需批准、95% 时拒绝,5 小时窗口 10 分钟涨 20 个百分点也需批准;同时限制并发子代理与重试循环。纯本地运行,不存提示词,钩子失败时放行。需…

推荐理由常跑多代理任务的人可直接装:80%/95% 两档阈值挡住十分钟烧完五小时额度的失控