浏览器端 AI 模型实测：5 个能用的功能
开发者 Sylwia Lask 在 FrontKon 演讲后撰文，实测浏览器内直接运行 AI 模型。她将 Transformers.js 升级到 4.3.1 后重新评估，指出浏览器端推理无需调用 API、无网络往返、不消耗 token 费用，模型下载缓存后可离线运行，数据留在用户设备上。局限是模型体积较小，无法运行前沿大模型，且首次下载和本地推理仍需时间。她提到 WebGPU 可让部分并行计算比 CPU 快数十倍，但现场听众中仅三四人听说过 WebGPU。原文未列出 5 个功能的具体细节。
推荐理由想省 API 成本或做隐私敏感功能的开发者，可先了解浏览器端推理现在能跑到什么程度。