PrismML 为高通芯片智能眼镜推出 1-bit 端侧模型
AI 实验室 PrismML 在高通骁龙峰会上展示了 1-bit Bonsai LLM，可在搭载 Snapdragon AR1 Gen 1 平台的 AI 智能眼镜上本地运行。该版本为 20 亿参数、面向视觉与语言调优的模型，佩戴者可实时询问眼前所见。PrismML 由加州理工研究人员创立，UC Berkeley 的 Ion Stoica 担任顾问，其技术可将大模型压缩约 4 倍，同时保留标准基准上几乎全部性能。公司目标是推动开放权重、在设备端运行并充分利用现有算力的 AI。目前尚无搭载 PrismML 的智能眼镜产…
推荐理由端侧 20 亿参数、压缩 4 倍仍保性能，做可穿戴和本地推理的可以盯这条路线