#token 压缩

全部资讯模型
清除条件
共 1 条
Hacker News · AI10/07资讯论文研究海外

研究:让 LLM 用 1866 年电报体压缩输出,token 省 40% 以上

一项可复现实验(50 篇文本、约 1300 道题)显示,让模型用 19 世纪电报文体(cablese)输出,可节省 40.4%–48.9% 的 token,且下游模型读取压缩记录的准确率不低于原文(恢复比 0.99–1.10)。GLM-5.3-Flash 自身节省 48.4%,qwen3.8-27b 省 48.9%,gemma-4-31b 省 40.4%。但 gpt-5-mini 例外:它无法关闭推理,压缩反而让它思考更多,写入成本约为普通文本的两倍,仅省 17.7%。若不加小写指令,模型会用全大写电报体,风格开销…

推荐理由想省 token 成本可直接照搬:加小写指令让模型输出电报体,多数模型省 40% 以上且不影响下游读取。