清除条件
共 82 条 · 第 3/3 页
MarkTechPost09/24模型新模型发布海外

TypeSafe AI 发布 Jev:不生成文本,只返回类型化决策

TypeSafe AI 推出首个 System One 模型 Jev,不生成任何文本,而是接收程序状态和一组类型化问题,返回选项、分数和是/否概率,供代码直接分支。官方 Python SDK 为 typesafe-sdk 0.7.0,输入 token 定价 0.042 美元/百万,输出 token 免费。教程演示了置信度门控路由、代码内保留权重的复合评分、类型化函数调用,以及用 Pydantic 响应模型、asyncio 异步扇出、重试策略和成本账本构建生产形态。

推荐理由输入 0.042 美元/百万、输出免费,做置信度路由和类型化决策可直接照抄代码

LangChain09/23模型新模型发布海外

LangChain 介绍 TypeSafe AI 的 Jev 模型:分类任务快 200 倍

TypeSafe AI 发布新模型 Jev,官方称在分类任务上推理速度最高快 200 倍、成本低 400 倍。Jev 不是传统 LLM,不生成文本,而是所谓 System One 模型:接收一个 state 和若干问题,返回带类型的答案与概率,用强化学习做校准决策(RLCD)训练。支持三类问题:Choice(多选一,返回各选项概率)、Score(按低中高打分,返回连续分数与分布)、Noul(是/否,返回为真的概率)。同一请求可并行问多个问题,增加问题几乎不增加响应时间。LangChain 发文介绍其如何嵌入 Age…

推荐理由Agent 循环里每次决策都调 LLM 又慢又贵,Jev 用概率化分类替代,官方称快 200 倍、便宜 400 倍。