MicroLLM Lab:浏览器里跑 7 个小模型做基准测试
MicroLLM Lab 上线,可在浏览器中直接运行 7 个小语言模型并做基准测试。测试用正则或精确 token 做客观判定,不看写作质量,最小的 135M 模型允许失败,失败本身即测量结果。页面记录持续解码速度(tokens/s)和客观测试通过率,数据只留在本机,图表按每个模型最新一轮测试生成。用户还能用 JavaScript 自己写基准,编辑器在本源下 eval 后对模型解码文本逐项检查。
推荐理由想零安装对比小模型速度与准确率的人,打开网页就能跑,数据不出本机