#部署工程

全部资讯模型
清除条件
共 214 条 · 第 6/6 页
Fireworks AI09/28资讯行业动态海外

Inside Fireworks Multi-region Deployments: One Deployment, Global Scale

TLDR; Discover when to leverage the GLOBAL option and how we architected multi-region routing to handle global workload placement off the inference hot path, optimizing for low latency, resilience and operational ease.No…

推荐理由行业动态类信息,来自 Fireworks AI,建议按需查看原文。

TechCrunch AI09/26资讯行业动态海外

英国 AI 云厂商 Nscale 上市前融资 33.6 亿美元

英国 AI 云服务商 Nscale 在 IPO 前完成 33.6 亿美元可转债融资,由对冲基金 Third Point 领投,其中 23.6 亿美元可立即使用,现有投资方英伟达另提供 10 亿美元,将于 11 月中旬到账。这些票据将在 IPO 完成后转为股权。Nscale 上周已提交 IPO 文件,据《金融时报》报道,其纽交所上市估值预计为 350 亿美元,据彭博社报道拟募资 30 亿美元。公司两年前从澳大利亚加密货币矿企 Arkon Energy 分拆,IPO 文件显示其累计合同金额超过 1030 亿美元,目前正…

推荐理由英伟达再投 10 亿美元,可看清 AI 数据中心军备竞赛的资本量级

MarkTechPost09/25模型论文研究海外

Perplexity 用真实失败会话训练电脑 Agent,工具调用失败率降 21.2%

Perplexity Research 发布后训练研究,在 Perplexity Computer 内用真实用户会话(含失败会话)训练模型,方法结合拒绝采样微调与提示引导自蒸馏。在线 A/B 测试中,两个训练检查点之间工具调用失败率从 2.24% 降至 1.77%,相对下降 21.2%,团队称具统计显著性。方法将每轮助手回复分为三类处理:成功会话中的非错误轮做模仿(交叉熵损失)、任意会话中带验证提示的错误轮做纠正(KL 散度损失)、其余轮仅保留为上下文不计算损失。纠正部分用 On-Policy Self-Disti…

推荐理由工具调用失败率 2.24%→1.77%,做 Agent 后训练可参考其「模仿/纠正/仅上下文」三分类思路

Hacker News Show09/25模型产品发布/更新海外

开源 Agent 自动优化 CUDA 内核,用 GPT-5-mini 迭代

开发者 bertaye 在 GitHub 开源 agentic-cuda-optimizer,用 LangGraph 驱动的 Agent 自动完成 CUDA 内核的代码生成、正确性校验、基准测试与迭代改进。Agent 可查询 GPU 属性、检索 NVIDIA 文档、读取 Nsight Compute 计数器来指导下一轮实验,同时修改内核代码和每个用例的启动配置。C++ harness 用 NVRTC 编译、CUDA Driver API 启动,Python 负责结果比对与候选筛选。排名取各性能用例延迟的几何平均,默…

推荐理由有 N 卡就能跑,把 CUDA 调优从手工试错变成自动迭代,附完整配置和运行命令

Hacker News Show09/25资讯行业动态海外

Avoid smooth spinners, use low-FPS spinners

Reduces CPU/GPU usage from ~50% to ~3-8% on a typical laptop (i7-7500U). Reduces battery use, heat, fan noise, and slow-down of other apps. Deshittify your app or website now with some slick low-FPS spinners! CSS-only, l…

推荐理由行业动态类信息,来自 Hacker News Show,建议按需查看原文。

LangChain09/24模型产品发布/更新海外

LangChain 发布 Managed Deep Agents 0.8

LangChain 推出 Managed Deep Agents 0.8,新增四项能力:用户自有凭证、用户级记忆、HTTP channels,以及 Slack 文件传输,并内置由 Parallel 提供支持的网页搜索工具。该产品把 Deep Agents 框架与生产运行所需基础设施打包,项目以代码优先方式组织在仓库目录中,包含 instructions.md、identity、memory、tools、channels、middleware、schedules、connectors、skills、sandbox、e…

推荐理由想让 Agent 上生产又不想自己搭记忆、鉴权和 Slack 接入的团队,可看这份目录结构清单

Ars Technica AI09/24资讯产品发布/更新海外

评测:苹果 M5 Ultra Mac Studio 本地跑 AI 体验

Ars Technica 发布苹果 M5 Ultra Mac Studio 评测,称其本地 AI 能力可用且有趣,作者因此转向 vibe coding 式开发。原文正文信息有限,仅提到该机型价格极高,未给出具体配置、跑分或模型测试数据。

推荐理由想知道苹果顶配机型跑本地大模型值不值这个价,可先看这篇实测结论

Hacker News Show09/24资讯产品发布/更新海外

Carbon 开源制造 ERP/MES/QMS,可完全离线部署

Carbon 发布开源制造执行系统,整合 ERP、MRP、MES 和 QMS,运行在用户自有的 Postgres 数据库上,支持本地、VPC 或完全气隙部署。社区版以 AGPL-3.0 协议在 GitHub 开源,可审计全部代码。面向国防、航空航天等受监管制造业,满足 CMMC 和 NIST 800-171 要求,企业版提供 SSP、POA&M 和 SPRS 材料。功能包括多实体多地点记账、序列号与批次追溯、NCR 到 CAPA 流程、数字流转卡和有限产能排程。原文称有两家硬科技独角兽在自有服务器上运行 Carbo…

推荐理由做国防、航空航天等受监管制造的团队,可拿到 AGPL-3.0 全代码自托管,数据不出内网

The Verge AI09/24模型产品发布/更新海外

微软更新 12 英寸 Surface Pro 和 13 英寸 Surface Laptop,搭载骁龙 X2 Plus

微软为 12 英寸 Surface Pro 和 13 英寸 Surface Laptop 换上高通骁龙 X2 Plus 芯片,10 月 13 日开售。12 英寸 Surface Pro 起售价从去年的 799.99 美元涨至 1149.99 美元,13 英寸 Surface Laptop 从 899.99 美元涨至 1199.99 美元,涨价部分源于取消 8GB 基础版,起步内存改为 16GB,最高可选 24GB。微软称六核骁龙 X2 Plus 的 NPU 本地 AI 推理性能提升最高 95%,图形性能提升超 60…

推荐理由本地 AI 推理提速 95%、起售价涨 350 美元,想买 Windows AI PC 的可以先看这份价格与续航账。

Hacker News Show09/24资讯产品发布/更新海外

ForensicDbg:面向 Windows 崩溃转储的调试器,内置 MCP 接口

ForensicDbg 是一款 Windows 用户态事后调试器,支持 x86/x64 崩溃转储分析、附加活动进程、设为即时调试器,并提供 C++ 表达式求值、SourceServer 与 SourceLink 支持。其特点是通过 MCP 接口与支持 stdio MCP 的 AI 工具互通,输出针对 AI 消费优化,对数据做解释和标注以减少 token 消耗。目前处于私测阶段,需申请邀请。

推荐理由做 Windows 崩溃分析可关注其 MCP 输出设计,让 LLM 直接读转储数据、省 token

DEV Community · AI09/24模型技巧与观点海外

实测对比 5 款 LLM 网关:LiteLLM、Kong、Portkey 等

作者对比了 LiteLLM、Kong AI Gateway、Portkey、Bifrost、Apache APISIX 五款 LLM 网关在生产环境下的表现,关注流量管理、延迟、供应商故障和运维控制。LLM 网关位于应用与模型供应商之间,集中处理路由、负载均衡、限流、重试、故障回退、鉴权、日志、token 统计、成本监控、缓存等。文章指出单供应商的简单应用未必需要网关,但多供应商或高流量场景下集中控制价值明显,例如主供应商返回 429 限流时可在网关层统一决定重试、等待还是切换。原文正文不完整,具体对比结论有限。

推荐理由选型前先看这 5 个候选:LiteLLM、Kong、Portkey、Bifrost、APISIX,覆盖路由与限流场景

Fireworks AI09/23资讯产品发布/更新海外

Fireworks 发布 ARCv3 压缩器,RL 权重更新体积减半

Fireworks 推出 ARCv3 压缩器,用于压缩从训练端发送到 RL rollout 机器的 BF16 权重更新。在 1000 个生产环境 RL 权重更新 delta 上,ARCv3 生成的传输负载比 ARCv2 小近 50%,且能无损重建训练端的精确 BF16 权重。更小的传输量让 rollout 集群更快跟上当前策略,使跨区域使用算力更可行,不必依赖单一大型同地集群。ARCv3 已通过 fireworks-delta-compression 在 Fireworks Training API 中提供,面向自…

推荐理由跨区域 RL 训练可省近 50% 权重传输量,自建 trainer 的团队可直接接入…

LangChain09/23资讯技巧与观点海外

LangChain 博客:医疗 AI 如何用 LangSmith 做评测

LangChain 发布博客,介绍两家医疗 AI 公司如何用 LangSmith 把临床专家评审转化为可复用资产。Included Health 的 AI 导诊产品 Dot 基于 LangGraph 和 Deep Agents 构建,负责解答医保账单问题、分诊并识别急症;Abridge 把医患对话转成临床笔记并接入病历与计费。两者共同约束是:准确性由工程团队之外的临床专家判定,而专家时间是最稀缺资源。做法是把专家输入沉淀为标注数据集、校准后的评测器和自动发布门禁,并应对 PHI 处理与数据漂移问题。原文信息有限,具…

推荐理由做医疗或高合规 AI 产品的团队可参考:把专家评审变成可复用评测集和发布门禁,而非一次性人工成本。