MarkTechPost09/25模型新模型发布海外BottleCap AI 发布 ThinkingCap 系列第二个模型 ThinkingCap-Qwen3.8-27B,基于 Qwen3.8-27B 微调,目标只有一个:缩短推理链。在 12 个基准上平均少用 37.2% 思考 token,宏平均准确率从 86.65% 降至 85.79%,下降 0.86pp。各基准缩减幅度 10.7% 至 65.5%,MMLU 类任务降幅最大,MMLU 从 1656 降至 571 token(-65.5%);长文本检索 AA-LCR 准确率反升 2.25pp 至 84.00%;AI…
推荐理由推理成本可降约三分之一,长文本检索反而更准,vLLM/SGLang 可直接替换部署
The Decoder09/25模型行业动态海外Epoch AI 测算,在固定基准分数下 AI 推理价格自 2023 年以来平均每季度下降约 47%,约合每年 13 倍,称没有其他变革性技术降得这么快。以 OpenAI o3 为例,2025 年初在 GPQA Diamond 上得 75 分约需每题 30 美分,18 个月后 GPT-5.6 系列模型达到同分只需 0.04 美分,约为原价的 1/725。MIT 研究者用 Artificial Analysis 数据得出年降 5 至 10 倍,剔除硬件降价和竞争因素后,纯算法效率提升约每年 3 倍。两组数据口径不同:…
推荐理由记住 13 倍/年这个降本速度,以及 o3 同分价格 18 个月降到 1/725,可用来判断模型选型时机。
Anthropic 研究09/25资讯论文研究海外3 个独立信源1 条讨论物理学家兼科普作者 Matt von Hippel 向 AI 公司发起挑战:用学术机构可获得的算力,解决理论粒子物理中散射振幅领域的计算难题——N=8 超引力到七圈,或 N=4 超杨-米尔斯到九圈。他原本想验证 LLM 是否只能靠新想法而非纯算力突破,结果挑战发出一个月后即被完成。原文为 Anthropic 研究博客的客座文章,具体由哪个模型、如何完成等细节原文信息有限。
推荐理由看一个具体案例:LLM 在纯计算密集型物理难题上一个月内被攻克,可据此判断模型能力边界。
MarkTechPost09/24模型新模型发布海外TypeSafe AI 推出首个 System One 模型 Jev,不生成任何文本,而是接收程序状态和一组类型化问题,返回选项、分数和是/否概率,供代码直接分支。官方 Python SDK 为 typesafe-sdk 0.7.0,输入 token 定价 0.042 美元/百万,输出 token 免费。教程演示了置信度门控路由、代码内保留权重的复合评分、类型化函数调用,以及用 Pydantic 响应模型、asyncio 异步扇出、重试策略和成本账本构建生产形态。
推荐理由输入 0.042 美元/百万、输出免费,做置信度路由和类型化决策可直接照抄代码
LangChain09/23模型新模型发布海外TypeSafe AI 发布新模型 Jev,官方称在分类任务上推理速度最高快 200 倍、成本低 400 倍。Jev 不是传统 LLM,不生成文本,而是所谓 System One 模型:接收一个 state 和若干问题,返回带类型的答案与概率,用强化学习做校准决策(RLCD)训练。支持三类问题:Choice(多选一,返回各选项概率)、Score(按低中高打分,返回连续分数与分布)、Noul(是/否,返回为真的概率)。同一请求可并行问多个问题,增加问题几乎不增加响应时间。LangChain 发文介绍其如何嵌入 Age…
推荐理由Agent 循环里每次决策都调 LLM 又慢又贵,Jev 用概率化分类替代,官方称快 200 倍、便宜 400 倍。