Fireworks 在 Kimi K3 和 Qwen3.5-9B 上复现 J-Lens 可解释性读出
Fireworks AI 复现了 Anthropic 提出的 J-Lens 探针方法，并在两个开源模型 Kimi K3 和 Qwen3.5-9B 上做了实验。J-Lens 是一个训练好的分类器，它读取模型在某一层的隐藏状态，输出模型在生成第一个 token 之前已经倾向的词汇排序。实验使用 Anthropic 全球工作空间研究发布的 10 个示例，两个模型各自生成回答，并各自拟合独立的 J-Lens。在“复述句子同时分心做另一件事”的测试中，Kimi 两次输出完全相同的句子，但从原始文本看不出它是否执行了分心指令；…
推荐理由想了解开源模型内部状态能否被读出、以及 J-Lens 方法如何落地复现，可看这两个模型的具体实验设置。