清除条件
共 1 条
Hacker News · AI2 天前资讯产品发布/更新海外

Apple 被曝开发 Harbor:把 Mac 变成本地 AI 推理服务器

爆料者 Aaron Perris 发现 Apple 正在开发一款名为 Harbor 的 Mac 应用,可将 Mac 变成私有 AI 推理服务器,在 Apple 芯片上本地运行开放权重模型,数据不出硬件、不上云。多台支持 Thunderbolt 5 的 Mac 可互联,把统一内存池化为单一推理资源,从而运行超出单机容量的大模型或承载更高并发。应用内可直接浏览、下载、加载模型,自动发现设备组集群,无需命令行和手动配置。目前 Harbor 在 Apple 旗下 Claris 品牌下进行私有预览,尚未公布公开发布时间。

推荐理由本地跑大模型不用再折腾命令行,多台 Mac 用 Thunderbolt 5 拼内存跑大模型,值得关注本地部署的人留意