The Verge 记者实测本地 AI：装 Hermes 跑 Qwen 大模型
The Verge 记者在 M5 Ultra Mac Studio（256GB 统一内存）上安装开源 AI Agent 桌面应用 Hermes Agent，并选择 1250 亿参数、约 105GB 的 Qwen 3.8 Flash Next 模型运行，还通过 Telegram 机器人用手机控制。作者称本地跑模型无需按 token 付费，可随意选大模型，但模型数量繁多、选择困难，且装好后面对输入框不知该让它做什么。后续计划在 M6 Mac Mini、M5 MacBook Air、华硕 TUF Gaming A14 等…
推荐理由想本地跑大模型的人可参考：256GB 内存跑 125B 模型、Hermes 免费自托管、Telegram 远程控制