清除条件
共 82 条 · 第 2/3 页
DEV Community · AI10/08模型论文研究海外

开发者用 API 重试场景测试 AI 模型判断力

开发者 gramli 在 Kaggle Benchmarking Challenge 中设计了一个基准测试:给 AI 模型若干 API 失败场景(含请求、响应和上下文),要求模型判断是否重试,输出 YES、NO 或 YES_AFTER_DELAY 及一句理由。场景涉及 HTTP 方法、状态码、幂等键、限流等细节,例如带幂等键的 POST /payments 返回 503 时应延迟重试。评分只看决策,不看理由,理由用于判断模型是否真正理解场景。原文未给出具体模型名称和测试结果。

推荐理由做 API 重试和容错逻辑的开发者可以借鉴这套场景设计,用幂等键、状态码组合检验模型判断是否可靠。

X @claudeai10/08模型新模型发布海外

Anthropic 将 Claude Sonnet 5.5 缓存读取价格减半

Anthropic 宣布把 Claude Sonnet 5.5 的缓存读取(cache reads)价格减半,降至每百万 token 0.10 美元。官方称这一调整让 Sonnet 5.5 在大多数长时间运行的任务上成本降低约 20%。原文未给出生效时间等更多细节。

推荐理由长上下文、多轮 Agent 任务成本直降约 20%,缓存读取降到 0.10 美元/百万 token,可直接重算预算。

The Decoder10/08模型新模型发布海外3 个独立信源1 条讨论

Anthropic 发布 Claude Haiku 5.5,价格最高降 90%

Anthropic 发布 Claude Haiku 5.5,官方称是迄今最快、最便宜的小模型。平均价格比 Haiku 4.5 低约 75%;对 10 万 token 以内的请求(约占此前 Haiku 请求的 90%)价格最多降 90%,超过 10 万 token 则贵 5 倍。输入 $0.10/百万 token,输出 $0.50/百万 token。基准测试大幅提升:GDPval-AA v2.1 得 1620 分(前代 735),Humanity's Last Exam 无工具 45.9%,OSWorld-2.1 计…

推荐理由10 万 token 内输入价格降到 $0.10/百万,做摘要、分类、客服可直接换

X @claudeai10/08模型新模型发布海外

Anthropic 发布 Haiku 5.5,首次支持可调 effort 设置

Anthropic 发布 Haiku 5.5,这是首个带可调 effort 设置的 Haiku 模型,用户可按任务在成本与智能之间取舍。原文仅给出这一句说明,未公布价格、上下文长度、跑分等具体参数,信息有限。

推荐理由Haiku 系列一向是低价档,这次能按任务调 effort,做批量任务前值得先看官方参数再决定是否替换。

X @claudeai10/08模型新模型发布海外

Anthropic 发布 Claude Haiku 5.5,成本降约 75%

Anthropic 发布 Claude Haiku 5.5,官方称这是其迄今最便宜、最快、能力最强的小模型。相比上一代 Claude Haiku 4.5,平均运行成本降低约 75%。原文未公布具体定价、上下文长度、基准测试分数和上线渠道等细节。

推荐理由小模型运行成本比 Haiku 4.5 低约 75%,做高并发、低延迟场景可直接换

Hacker News · AI10/07模型论文研究海外

11 个正方形最优堆叠问题在 Lean 中完成机器验证证明

一个名为 11SquaresFormalized 的 GitHub 项目发布了 11 个正方形最优堆叠的完整最优性证明,已通过 Lean 验证。验证运行接受了全部 7,920 个本地 Lean 模块,最终审计报告零 admission。最优边长约为 3.8770835900228141773,由公式 T=(6u+4)/(1+2u-u²) 给出,其中 u 是某八次方程在 (9/25, 37/100) 内的唯一根。部分精确数值证书检查使用 native_decide,因此最终定理信任 Lean 内核与原生编译器,而非仅…

推荐理由可复现的 Lean 4 形式化证明,含 7,920 模块验证脚本与固定工具链

Hugging Face 博客10/07模型论文研究海外

Nemotron 微调后在 IOI 和 IMO 2026 均达金牌水平

英伟达基于 Nemotron 3 通过监督微调、强化学习和反馈驱动推理,在 IOI 2026 和 IMO 2026 均达到金牌水平。IOI 2026 中,Nemotron-3-Ultra-CC 配合 SFT 和 GenCorrect 得 535.4/600,超过金牌线 361.12 和人类最高分 498.27,该结果为非官方、无监督基准,未计入官方排名。IMO 2026 中,Nemotron 3 Ultra 结合 SFT、RL 检查点和生成-验证-精炼系统得 30/42,超过官方金牌线 29,证明由官方 IMO 评…

推荐理由展示了用 SFT+RL+推理循环把通用基座模型改造成竞赛级专家的可复用配方,含具体分数和参数规模。

The Decoder10/07模型论文研究海外

OpenAI 在 GitHub 发布 372 个 AI 生成的数学证明

OpenAI 用内部前沿模型生成并公开了 372 个数学结果,每个都声称解决了一个未解问题或取得实质进展,涵盖计算机算法改进和黎曼猜想相关进展。结果发布在 GitHub 仓库而非学术期刊,附带修订日志和引用,多数证明提供 Lean 形式化验证。OpenAI 称几乎每个结果都来自对单个 AI Agent 的一次提示,平均消耗约 3 小时 ChatGPT Pro Thinking 算力;此前同一模型给出的 Navier-Stokes 问题解答已接受数周正式审查,那次动用了 1 万个 Agent 和数百万美元算力。公司还…

推荐理由AI 批量产出数学成果并绕过同行评审,做科研工具和形式化验证的人该看这个先例。

MarkTechPost10/07模型技巧与观点海外

Laya 决策引擎实测:零样本准确率与概率校准

Convai Innovations 的开源决策引擎 Laya 在 2026 年 9 月成为星标最多的机器学习仓库之一。它是 421M 参数的非自回归 System 1 模型,输入文本和带类型的问题(标签选择、量表打分、是/否),单次前向传播即返回每个选项的概率,不生成任何 token。教程在 CLINC150 银行领域真实标注数据上测试:零样本准确率对比训练过的分类器、选项措辞与顺序的影响、概率是否可信、温度缩放在验证集上能修好什么又会破坏什么、按错误预算设定的弃答门限、范围外流量,以及 pydantic sch…

推荐理由421M 参数、零输出 token、单次前向出概率,做意图路由可直接对照 CLINC150 实测数据评估

The Verge AI10/07模型论文研究海外2 个独立信源

OpenAI 发布 722 篇论文,称内部模型解决数百个数学开放问题

OpenAI 公布了一批由未发布的前沿模型产出的数学成果,共 722 篇手稿、归为 372 个结果族,据独立数学家顾问组 AGMAI 称包含对「数百个」开放问题的解答。OpenAI 称「平均结果」消耗约相当于 ChatGPT Pro 思考 3 小时的算力,并公开了部分推理摘要与算力估算。成果发布在 GitHub 仓库,附修订与引用协议。AGMAI 此前建议 AI 实验室及时通过学术渠道发布数学结果,并披露模型名称、提示词和算力成本,同时不要将数学成果发布当作模型营销手段。

推荐理由数学界要花时间消化这批 722 篇论文,关注 AI 科研能力边界的人可先看 AGMAI 的披露要求。

TechCrunch AI10/07模型行业动态海外

Mirror Particle 打造人类行为世界模型,挑战 LLM 预测方式

旧金山初创公司 Mirror Particle 正在构建一个从零开始的基础模型,用于模拟人类行为及其随时间的变化。CEO Abhivyakti Ahuja 认为,当前用 LLM 微调来角色扮演目标人群的做法根本行不通,因为 LLM 只建模书面语言,而人类由视觉感知、空间推理和社交智能构成。公司依赖客户数据、时事、流行文化、社交媒体等专有数据组合来建模人群,重点关注「实际行为」而非自我报告的调查答案。该公司已完成天使轮,接近完成首轮风投融资,并将参加 TechCrunch Disrupt 2026 的 Startup…

推荐理由了解人类行为预测赛道的新技术路线,以及 LLM 微调方法的局限

OpenAI News10/06模型论文研究海外2 个独立信源1 条讨论

OpenAI 发布内部前沿模型产出的数学成果

OpenAI 公开了一批由内部前沿模型生成的数学结果,发布在 GitHub 仓库中,并附论文修订与引用协议。仓库包含许多证明的 Lean 形式化,以及 10 份模型推理摘要、按 ChatGPT Pro 用量估算的算力消耗和尝试题目数量统计。平均每个结果约消耗相当于 3 小时 ChatGPT Pro 思考的算力。OpenAI 称正与普林斯顿高等研究院的数学与人工智能咨询组合作制定发布规范,并将资助相关研讨会和会议。

推荐理由看 AI 做数学的算力账:平均一个结果约等于 3 小时 ChatGPT Pro 思考,附 Lean 形式化可验证

MarkTechPost10/06模型论文研究海外

JEPA-Anything:一套配方构建 7 个领域世界模型

PhAI Labs、港中文、复旦、斯坦福、牛津、普林斯顿等机构发布 JEPA-Anything,用同一套学习配方替代各领域单独设计的世界模型。方法在 JEPA 基础上加入正交预测分解(OPF),把宽度 d 的隐目标拆成 K 个宽度 r 的子空间(多数实验 K=4),每个因子配独立预测器,再用投影矩阵的 Moore-Penrose 伪逆重组,并加入正交损失、因子活跃度损失和编码器方差损失防止坍塌。在视觉、生物、临床轨迹、控制、分子动力学、物理场、天气 7 个领域测试:单细胞零样本 PBMC 聚类 AvgBIO 从 C…

推荐理由一套 OPF 配方跨 7 个领域复用,单干预 MSE 降 34.83%,做世界模型可直接参考其因子分解与正则设计。

TechCrunch AI10/06模型新模型发布海外3 个独立信源

Reflection 发布开源模型 Beam,称推理对标 GLM-5.2

英伟达投资的 Reflection AI 发布首个开放权重模型 Beam,官方称其在推理能力上对标 GLM-5.2,且推理算力消耗低得多。模型权重预计本月开放下载。原文信息有限,未披露参数规模、具体评测分数和许可协议。

推荐理由开放权重模型又多一个选择,等本月权重放出后可实测推理算力差距

MarkTechPost10/05模型论文研究海外

Yandex 发布 Sona:单一生成式推荐模型取代整套推荐级联

Yandex 发布 Sona 技术报告,用单个生成式模型把候选生成和排序合并,替代传统多级推荐流水线。在智能音箱上进行的 7 天线上 A/B 测试中,一个部署的 transformer 取代了 15 个以上候选生成器、预排序和排序阶段。Sona 用共享用户表征:编码器每次请求读取一次收听历史,解码器生成候选,排序模块用同一编码器状态打分,不使用人工特征。语义分词器把每首歌编码为 3 个离散码,Recall@1000 从 0.8111 提升到 0.8524。编码器处理 8192 个历史事件,近期 2048 个用 7 …

推荐理由推荐系统架构从多级级联转向单模型的完整案例,含线上 A/B 和成本数据

Modal10/05模型新模型发布海外

TypeSafe AI 的 Jev 模型三天处理超万亿 token

TypeSafe AI 推出非自回归的 System One Model「Jev」,输入状态和问题后直接输出带概率的结构化类型值,不生成文本。上线一周后在 OpenRouter 1K-10K token 上下文区间登顶,处理 15.1% 的请求。借助 Modal 的无服务器平台,Jev 在发布三天内处理超 1 万亿 token,满足超低延迟推理需求,团队无需自管基础设施。

推荐理由做大规模自动化或低延迟结构化决策的团队,可参考这种非自回归、并行输出的模型路线

Simon Willison10/05模型论文研究海外

Qwen3.8 27B 本地模型加法测试:禁用推理准确率仅 23.57%

Simon Willison 在 DGX Spark 上测试本地 Qwen3.8-27B-Q4_K_M.gguf 模型用英文单词表达加法结果的能力。禁用推理时,5,070 个测试用例的数值准确率为 23.57%,格式合规率 96.17%;一至三位数操作数准确率 97.04%,十至十三位数降至 6.44%。启用中等推理后,169 个配对用例中答对 167 个,推理过程包含逐位对齐和进位计算。

推荐理由本地部署 Qwen3.8 27B 的实测数据:关推理做多位数加法基本不可用,开推理准确率 98.8%

DEV Community · AI10/04模型产品雷达海外

DEV 文章讨论自适应智能:从预测转向持续反馈

原文信息有限,正文为概念性论述,未给出具体模型、数据或产品。文章提出,传统 AI 工作流是「数据→模型→预测→决策」,适用于环境稳定的场景;而真实环境的数据分布、用户行为和网络状态会持续变化,因此需要引入「观察→分析→行动→测量→再评估」的反馈闭环。作者认为自适应不等于持续行动,有时正确决策是不做改变,目标是保持对环境变化的持续感知。文中还提到单一信号变化可能是噪声,多个独立信号同时变化才可能意味着环境本身在迁移,AI 的价值在于处理多维信息并判断是否需要调整。文末提到 Aonica 正在开发相关架构,但内容被截断…

推荐理由适合想了解自适应系统设计思路的人,可对照自己项目里有没有反馈闭环

MarkTechPost10/03模型新模型发布海外

决策 AI 模型解析:TypeSafe Jev 与 Fastino GLiDE 对比

TypeSafe AI 结束 2 年隐身状态推出 Jev,一种返回决策而非文本的新模型类别。Jev 支持 Choice、Score、Noul 三种原语,最多 255 个选项,输入价格 $0.042/百万 token,输出免费,响应 70-500 毫秒。在 4 项工作流评测中,Jev 平均准确率 67.8%,单案例成本 $0.0004,耗时 0.4 秒;Claude Sonnet 5 同样 67.8%,但成本 $0.1174、耗时 78.1 秒。3 周内 Fastino Labs 推出 2 个竞品,开源社区也发布了多…

推荐理由Jev 与 Sonnet 5 准确率持平但成本仅为其 0.3%,做 Agent 控制流可直接替换

X @AIatMeta10/03模型论文研究海外

Meta 用 Muse Spark 证明激光模型中的波会有限时间爆破

Meta AI 在 X 上介绍了一项微分方程研究:在激光启发的模型中,存在两种相互竞争的作用——一种把波向内挤压,另一种把波向外扩散。借助 Muse Spark 的帮助,研究人员证明在所研究的条件下,波无法无限集中,必然在有限时间内「爆破」(blow up)。原文给出了论文链接,但未披露更多技术细节。

推荐理由做偏微分方程或 AI 辅助数学证明的人,可看这个「有限时间爆破」结论和 Muse Spark 的用法。

OpenAI News10/03模型新模型发布海外

OpenAI 发布 GPT-6 系列模型使用指南

OpenAI 发布 GPT-6 系列模型指南,该系列包含三款模型:GPT-6 Astra 面向最高难度推理任务,GPT-6.1 Sol 面向复杂编码、研究和计算机操作,GPT-6 Luna 面向聚焦型任务。指南建议在生产环境中使用缓存和压缩管理上下文与成本,缓存输入 token 费用最多可降低 95%;根据任务匹配模型、推理强度和速度;通过 steering、异步工具和委派管理长时间运行的工作。

推荐理由做 Agent 或 API 集成的开发者可直接参考:缓存输入 token 最多省 95%,三款模型按推理难度分工

Hugging Face 博客10/02模型新模型发布海外

Allen AI 开源 AstaBrief 8B,报告生成快 3.5 倍

Allen Institute for AI(Ai2)开源了 AstaBrief 8B,一个把研究问题和检索到的文献片段转成带引用报告的小模型。它已作为 Asta 平台「Generate a report」功能的 Fast 模式上线,与 Claude 驱动的 Thinking 模式并列。官方称全流程 Fast 模式平均每份报告 51.1 秒,Thinking 模式 178.5 秒,约快 3.5 倍。训练用了数万条真实研究查询、引用过滤和偏好数据,并改为一次性生成全文而非分段写。模型权重和训练数据一并开源,另附一个可…

推荐理由8B 小模型做带引用报告,51 秒 vs 178 秒,权重和训练数据都开源,可本地跑

The Decoder10/02模型论文研究海外

AI 记账又快又准,但仍无法独立完成结账

Mercor 研究显示,AI 在结构化记账任务上比持证会计师更快、更准、更便宜。12 名平均 5.5 年经验的 CPA 参与 APEX 会计基准简化任务测试,18 个月前最佳模型得分还低于会计师约 37% 的平均水平,如今几乎完美解决同类任务。完整 APEX 基准含 10 家模拟公司的 160 项任务,Claude Opus 5.5 以 61.8% 的评分标准达成率领先,Fable 5.1 为 61.0%,GPT-6 Astra 为 57.9%。但近 60% 的任务无模型能完全解决,AI 尚不能无监督结账。研究也承…

推荐理由看清 AI 在会计场景的真实水位:最强模型仅完成 61.8% 评分标准,近六成任务无法独立解决

DEV Community · AI10/02模型论文研究海外

印度 123 人田野调查:前沿模型在 24 个真实争议中仍存在人口统计偏差

一项 Kaggle Benchmarking Challenge 参赛项目从印度果阿 123 名大学生收集田野数据,构建了覆盖教育、医疗、司法、金融四个领域的 24 个真实机构争议基准,测试模型在信息不完整、人口统计特征替换、权威人设施压下的行为。评测使用 Kaggle Benchmarks SDK,覆盖 Gemini 3 Flash Preview、Qwen3-Next-80B、Claude Sonnet 5、GLM-5、GPT-5.4-mini、DeepSeek-R1 等前沿与开源模型,追踪模糊抵抗、反事实一致…

推荐理由想了解现有基准测试盲区的人可以看这套四指标设计,尤其是人设谄媚漂移的测法。

MarkTechPost10/02模型新模型发布海外2 个独立信源

Cloudflare 发布 Clef 与 Clef-flash 决策模型,输出概率而非文本

Cloudflare 发布其 Workers AI 团队训练的首批模型 Clef 和 Clef-flash,定位为决策模型而非聊天机器人:输入状态和带类型的 schema 问题,输出每个候选答案的概率,不生成自由文本。两者以 Apache 2.0 开源权重,兼容 TypeSafe AI 的 Jev API,已在 Workers AI 上线,权重同步发布于 Hugging Face。Clef 基于 Qwen3.8-27B、Clef-flash 基于 Qwen3.5-9B 后训练,保留视觉编码器。单次请求最多 64 个…

推荐理由做分类、打分、结构化决策的可以直接换:Apache 2.0 开源权重,单请求 64 问,威胁情报分类 2.2 秒。

MarkTechPost10/01模型新模型发布海外

Perplexity 开源 9B 上下文嵌入模型 pplx-embed-v2

Perplexity Research 与 turbopuffer 发布 pplx-embed-v2-context-9b-preview,一个面向 RAG 的上下文嵌入模型,权重已在 Hugging Face 以 MIT 协议开放,可自托管,暂未上线 Perplexity API。模型基于内部 9B ColBERT 检索模型,训练信号改为让模型同时检索答案及其验证所需的上下文,而非单一 gold passage;教师模型为 Perplexity 的 query-aware 上下文压缩模型,通过 KL 蒸馏加 In…

推荐理由MIT 协议可自托管,原生 int8 嵌入能省存储,做 RAG 的可以直接拉权重试

Hacker News · AI09/30模型新模型发布海外

GPT-6.1 Sol 发布,7 天取代 GPT-6 Sol

Artificial Analysis 数据显示,GPT-6.1 Sol 在发布 7 天后取代 GPT-6 Sol,智能指数比 GPT-6 Astra 仅低 1 分,但每任务成本不到其四分之一(0.72 美元 vs 3.26 美元)。价格与 GPT-6 Sol 持平,为每百万输入/输出 token 2/10 美元,缓存读取折扣从 90% 升至 95%。相比 GPT-6 Sol,智能指数提升 4 分,Terminal-Bench 4.0 提升 12 分,AA-Omniscience 准确率提升 8 分,幻觉率从 60…

推荐理由每任务成本 0.72 美元、比 Astra 便宜 75%,做 Agent 可直接换用

Fireworks AI09/30模型论文研究海外

Fireworks 实验:数值不对齐会让 RL 训练奖励崩溃

Fireworks 在 GLM 5.2 上做对照实验:同一算法、同一数据跑 countdown 推理任务,仅改变训练器与 rollout 引擎计算 token 概率的方式。不对齐时两者 KL 约 0.013,为保持稳定每批要丢弃约 45% 样本,奖励升到约 0.9 后在 20 步左右崩到 0.2 以下;对齐后 KL 为 0,无样本丢弃,25 步内奖励稳定。在 Qwen3.5-MoE 上还发现,即使一方精度更高,专家输出合并方式不同也会导致分歧,并可能翻转路由决策。

推荐理由做 RL 训练的人可以直接抄结论:先对齐训练器与推理引擎的数值,否则 45% 的样本白扔、奖励还会崩。

MarkTechPost09/30模型新模型发布海外

Liquid AI 发布 d1 决策模型:零输出 token 返回校准概率

Liquid AI 发布 d1,一个面向结构化选择的决策模型,不做文本生成。输入上下文和一组带类型的问题,单次调用即返回固定选项上的校准概率,usage.output_tokens 恒为 0。提供三种原语:Noul(是/否概率,示例中投诉判断返回 0.999)、Choice(从命名集合中选一项,返回首选、完整分布和置信度,重复扣费工单在 billing 上得 0.9997)、Score(按有序评分标准打分,4 级紧急度返回 2.9995)。三类问题可在一次请求中混用。目前仅以托管 API 形式提供,模型名 d1:f…

推荐理由分类、路由、审核这类固定选项任务可换成 d1,输出 token 不计费且无 JSON 解析失败

X @OpenAI09/30模型新模型发布海外2 个独立信源

OpenAI 发布 GPT-6.1 Sol,价格仅为 Astra 的五分之一

OpenAI 在 X 上宣布推出 GPT-6.1 Sol,称其具备「接近 Astra 的智能水平」,价格只有 Astra 的五分之一,是当前同等性能下成本效率最高的模型。原文未披露具体定价、上下文长度、基准测试成绩和开放范围,信息有限。

推荐理由OpenAI 新模型价格砍到 Astra 的 20%,做成本敏感型应用可以先算一笔账

DEV Community · AI09/29模型论文研究海外

开发者用 Kaggle 基准测试 LLM 连接创意的三种失败模式

开发者发布 IdeaConnectionAccuracy 基准,用三个任务测试 LLM 生成创意列表时的连贯性、精确性和覆盖度。连贯性任务要求模型围绕"可持续城市发展"生成 3-4 个逻辑相关且彼此区分的想法,由评审 LLM 按严格标准判定,任一标准失败即整体失败。精确性任务要求返回恰好 n 个编号想法,分别检查数量、相关性和格式。覆盖度任务要求列出概念的所有主要相关主题,由评审返回单一布尔判定。测试覆盖四个模型,原文未给出具体得分。

推荐理由做 LLM 评测或 Agent 输出校验的开发者可参考这三个失败模式的拆解思路。

Hacker News · AI09/29模型产品发布/更新海外

MicroLLM Lab:浏览器里跑 7 个小模型做基准测试

MicroLLM Lab 上线,可在浏览器中直接运行 7 个小语言模型并做基准测试。测试用正则或精确 token 做客观判定,不看写作质量,最小的 135M 模型允许失败,失败本身即测量结果。页面记录持续解码速度(tokens/s)和客观测试通过率,数据只留在本机,图表按每个模型最新一轮测试生成。用户还能用 JavaScript 自己写基准,编辑器在本源下 eval 后对模型解码文本逐项检查。

推荐理由想零安装对比小模型速度与准确率的人,打开网页就能跑,数据不出本机

X @claudeai09/29模型新模型发布海外

Anthropic 发布 Claude Sonnet 5.5,速度提升超 30%

Anthropic 发布 Claude Sonnet 5.5,是 Claude 5.5 家族的第二款模型。官方称其相较 Sonnet 5 是明显升级:运行速度提升超过 30%,多数任务成本最多降低 30%。原文未披露具体定价、上下文长度和评测分数。

推荐理由速度 +30%、成本 -30%,做高频调用和 Agent 的可以直接算一下替换 Sonnet 5 的账

DEV Community · AI09/27模型论文研究海外

实测:开启推理模式让模型跟随错误推理的概率提高 5 倍

一项 Kaggle 基准测试用「Adding Mistakes」方法测量思维链忠实度:在模型推理中途注入错误步骤,看最终答案是否跟随错误。测试覆盖 15 道算术、多步应用题和逻辑题。核心对比是同一底层模型的 Grok 4.20 推理模式与非推理模式,开启推理后跟随注入错误的概率高出 5 倍。另测试了 DeepSeek-R1、Claude Opus 5、GPT-5.6 Terra、Gemini 3.7 Flash 等。高分代表最终答案倾向跟随被注入的推理错误,低分代表模型常能绕过错误推理得出正确答案。

推荐理由推理模式不等于更可靠,这项实测给出可复现的量化对比,做 Agent 和评测的人可直接参考

MarkTechPost09/27模型新模型发布海外

Supersonic Labs 发布 Julia 1:1.443 亿参数决策模型,可在 CPU 运行

巴西小型 AI 实验室 Supersonic Labs 发布 Julia 1,一个 1.443 亿参数的决策模型,非聊天机器人:输入上下文、问题和 2 到 20 个候选答案,模型选出一个并给出每个选项的概率。权重以 Apache 2.0 协议发布于 Hugging Face,可在 CPU 或 BF16 GPU 上本地运行,ONNX 版本可通过 WebGPU 在浏览器运行;托管 API 已宣布但未开放。模型基于 JHU CLSP 的 mmBERT-small 编码器,训练与实验的云 GPU 总花费约 540 雷亚尔(…

推荐理由训练成本仅 104 美元、权重 550 MB,可在 CPU 和浏览器本地跑分类决策,做路由和标签判断可直接试

The Decoder09/27模型论文研究海外

研究:有 AI 可用时,人们几乎不再说「我不知道」

研究者做了 5 个实验、共 3132 人参与,测试能否调用语言模型是否改变人面对不确定性的处理方式。他们故意选了模型 Step 3.5 Flash 几乎必错的电影细节题(如《我爱贝克汉姆》球队队服颜色)。前两个实验中,无 AI 对照组在 36% 和 44% 的题上放弃作答,有 AI 时降到 6% 和 3%。实验 2 中,有 AI 时自信度从 29.6 分升到 75.9 分(满分 100),正确率却从 27.6% 降到 10.0%。全部实验中,有 AI 组正确率 9.2%,无 AI 组 27.5%。加入每题 10 美…

推荐理由有 AI 时自信涨 2.5 倍、正确率掉到三分之一,这组数字可以直接用来提醒团队别盲信模型输出。

Hacker News · AI09/26模型技巧与观点海外

用 logprobs 单函数封装 LLM,可跑视觉模型

开发者 Allan 发布了一个类似 Jev 的单函数 LLM 封装,核心技巧是读取 token 概率:把问题写成选项,设置 max_completion_tokens 为 1、logprobs 为 true、top_logprobs 为 20,让模型只输出一个 token 并返回各选项的对数概率,速度很快且共享前缀可被 KV 缓存。作者为 Jev 请求格式新增了 attachments 字段以支持图片,示例用摄像头抓帧判断是否有人、室内外和亮度。在 RTX 3090 上跑 Gemma 4 12B 约 1 FPS(每…

推荐理由一个只输出单 token 的分类技巧,配 logprobs 就能把 LLM 当快速分类器用,含可运行 Python 示例

MarkTechPost09/25模型新模型发布海外

BottleCap 发布 ThinkingCap-Qwen3.8-27B:思考 token 减少 37.2%

BottleCap AI 发布 ThinkingCap 系列第二个模型 ThinkingCap-Qwen3.8-27B,基于 Qwen3.8-27B 微调,目标只有一个:缩短推理链。在 12 个基准上平均少用 37.2% 思考 token,宏平均准确率从 86.65% 降至 85.79%,下降 0.86pp。各基准缩减幅度 10.7% 至 65.5%,MMLU 类任务降幅最大,MMLU 从 1656 降至 571 token(-65.5%);长文本检索 AA-LCR 准确率反升 2.25pp 至 84.00%;AI…

推荐理由推理成本可降约三分之一,长文本检索反而更准,vLLM/SGLang 可直接替换部署

The Decoder09/25模型行业动态海外

Epoch AI:AI 性能成本每季度降 47%,年降约 13 倍

Epoch AI 测算,在固定基准分数下 AI 推理价格自 2023 年以来平均每季度下降约 47%,约合每年 13 倍,称没有其他变革性技术降得这么快。以 OpenAI o3 为例,2025 年初在 GPQA Diamond 上得 75 分约需每题 30 美分,18 个月后 GPT-5.6 系列模型达到同分只需 0.04 美分,约为原价的 1/725。MIT 研究者用 Artificial Analysis 数据得出年降 5 至 10 倍,剔除硬件降价和竞争因素后,纯算法效率提升约每年 3 倍。两组数据口径不同:…

推荐理由记住 13 倍/年这个降本速度,以及 o3 同分价格 18 个月降到 1/725,可用来判断模型选型时机。