Hacker News · AI09/27资讯论文研究海外一项被 COLM 2026 Workshop 和 KONVENS 2026 Eval4SD 接收的研究发现,chat template 像开关一样控制大模型的自我表述:存在时,模型更多说「我只是个 AI」这类免责声明,更少说「我感觉」这类体验性表述;不存在时则相反。研究覆盖 8 个开源 instruct 模型,规模最大 9B。在 3 个模型的激活空间中找到一条可操控该行为的方向向量,移除它免责声明减少,加入它则增多,而同等大小的随机方向几乎没有影响。作者提醒,研究模型自我报告或内省时需控制 chat templat…
推荐理由做模型内省、自我报告或安全对齐研究的人,需要把 chat template 当作必须控制的变量。
The Decoder09/25资讯论文研究海外预测研究机构 FRI 汇总 2022 年以来多项专家调查发现,AI 进展普遍快于预测。数学领域差距最大:AI 于 2025 年 7 月达到国际数学奥林匹克金牌水平,比专家预测中位数早 5 年,比超级预测者早 10 年。专家对已发生基准结果的平均概率估计为 24.6%,超级预测者仅 9.7%。病毒学能力测试中,专家预期 2030 年追平顶尖团队,实际可能在 2025 年 4 月就已实现。经济预测同样保守:专家预计 2026 年底 AI 公司最高 ARR 为 200 亿美元,而 Anthropic 在 2026 年 9…
推荐理由用具体数字说明专家预测系统性偏低,可据此调整对 AI 能力时间表的预期
Anthropic 研究09/25资讯论文研究海外3 个独立信源1 条讨论物理学家兼科普作者 Matt von Hippel 向 AI 公司发起挑战:用学术机构可获得的算力,解决理论粒子物理中散射振幅领域的计算难题——N=8 超引力到七圈,或 N=4 超杨-米尔斯到九圈。他原本想验证 LLM 是否只能靠新想法而非纯算力突破,结果挑战发出一个月后即被完成。原文为 Anthropic 研究博客的客座文章,具体由哪个模型、如何完成等细节原文信息有限。
推荐理由看一个具体案例:LLM 在纯计算密集型物理难题上一个月内被攻克,可据此判断模型能力边界。