在医疗领域，判断 AI 系统是否正确运行的最佳裁判，是那些它本应为之节省时间的人。临床医生可以很快判断出生成的记录是否正确归因了某个症状，或者患者是否被推荐了最恰当级别的护理。但他们无法无限期地在数千次就诊中执行这种审查。在规模化的情况下，专家验证成为限制因素。

医疗团队以不同方式应对这一挑战，但许多团队共享一个原则：他们将临床审查视为基础设施，而非经常性的运营成本。本博客介绍两个以不同方式构建 AI 医疗产品的组织，如何在使用LangSmith的情况下，汇聚到相同的评估实践上。他们将专家输入转化为持久资产，如标注数据集、校准过的评估器和自动化发布门禁。目标不是消除人类判断，而是让其价值不断累积。

你将探索：

  • 稀缺的临床专业知识如何转化为持久的评估
  • 可复用的评估如何在保持信任与安全的同时实现更快的发布
  • 当前的评估挑战，例如受保护健康信息（PHI）处理和漂移

医疗领域 AI 评估的挑战

医疗 AI 智能体在多种工作流中运行，例如患者护理决策和就诊记录。

Included Health构建了 Dot，一个由LangGraph和Deep Agents驱动的 AI 导引。它解读模糊的会员需求，回答覆盖范围和账单问题，将人们引导至适当的护理，并检测紧急情况。一个关于某项扫描是否被覆盖的问题，可能在几轮对话后揭示出，该会员实际上需要与初级保健医生交谈。评估 Dot 意味着既要检查其准确性，也要检查它是否使用了会员的完整上下文来推荐安全且适当的下一步。

Abridge将患者与临床医生的对话转化为临床笔记。在患者同意的情况下，医生会记录就诊过程，Abridge 将对话转换为笔记，该笔记成为纵向健康记录的一部分并支持计费。在这种场景下，归因至关重要。如果患者的观察被呈现为医生的结论，一个症状可能变成可计费的诊断。幻觉会带来另一种风险：从未开具的药物或剂量可能进入记录。一份可信的笔记必须保留谁说了什么，捕捉临床上重要的内容，并且不引入对话不支持的任何信息。

这些系统以不同方式失败，但两个团队都使用 LangSmith 来解决同一个约束：准确性由工程团队之外的人决定，而那个人的时间往往是系统中最稀缺的资源。

这使得专家审查既不可或缺，又可能成为瓶颈。正如 Abridge 团队所说：“信任是一滴一滴积累的，却是一桶一桶失去的。”目标是让每一次专家判断在未来的测试、发布和迭代中可复用。

临床审查必须弥合的差距

在将临床判断编码为自动化评估之前，团队必须首先明确专家到底在评估什么。有三个特性使这种判断难以规模化。

真实标准很少是唯一的。一份临床笔记没有唯一的标准形式。哪些内容属于笔记因专科、就诊类型和临床医生而异，合理的专家之间也可能存在分歧。参考笔记很有用，但将单一参考视为唯一正确答案可能会惩罚合理的差异，同时仍然遗漏临床上重要的错误。

正确的不作为也很重要。医疗团队必须评估系统是否正确行动，以及它是否识别出何时不应行动。例如，Included Health 的审查者会检查紧急情况护栏在适当时触发，并在良性情况下保持不激活。例如，Abridge 测试其智能体是否停留在其边界内，并选择临床医生会预期的工具。

审查者的专业能力是规范的一部分。Abridge 会预先判断一次评估需要的是持有执业资格的医生还是特定专科医生。评判者的好坏取决于校准它的那些判断。

这一切都不会让临床判断变得无法自动化。它只是界定了负责任地实现自动化的要求：对合理差异的容忍、对未发生之事的关注，以及每个标签背后恰当的专业知识。

将临床专业知识转化为持久可用的产物

一旦团队界定了他们需要保留的判断，他们就可以开始 将专业知识转化为基础设施。Abridge 将临床医生的输入转化为带标签的数据集和经过校准的评判者，这些评判者在单次评审结束后仍能持续运作。

Abridge 从临床医生和用户反馈中已知的失败模式入手。团队按普遍性和严重程度对它们排序，将其归入准确性、合规性、风格和完整性等类别，并为每一类构建单独的评判者。评估者不是给出一个笼统的质量分数，而是针对一份记录可能失败的具体方式进行测试。

节省的时间来自将他们提供判断之后所发生的事情自动化。此前，临床医生会编写一份标注指南并标注就诊记录，然后由某人手动调整评判者的提示词，直到其分数与那些标签匹配。现在，Abridge 将同样的指南和示例输入到一个自动化的提示词优化框架中，由该框架生成评判者。

由于没有任何单一参照能涵盖每一份合理的记录，Abridge 将两种优势互补的方法分层叠加：

  • 无参照评判者直接根据记录的源对话为其打分。由于无需参照物进行对比，它们能跨就诊记录泛化，并且既可在开发期间运行，也可在生产环境中持续运行。
  • 有参照评判者将输出与精心挑选的示例进行比较，并且可以针对某一医学专科进行定制，捕捉更宽泛的评判者所遗漏的上下文和细微差别。

两者结合，平衡了广度与精度：一个提供跨就诊记录的可扩展覆盖，另一个捕捉临床评审所需的专科特定细微差别。

经过优化的评判者仍必须对照临床医生的标注进行验证。LangSmith 的 Align Evaluator为团队提供了一个界面，用于比较两者并调查分歧。Abridge 还会单独要求标注者解释他们的决定，即使输出是正确的。这些解释有助于解决不一致之处，并确认标签反映了仔细的审查。

结果是一个可以被检查、重新校准和复用的评估系统。通过将个体判断转化为持久的评估器，团队可以将稀缺的临床专业知识保留给最能发挥其价值的案例。生产审查提供新案例和反馈，使这些标准保持最新。

用生产审查闭环评估

经过校准的评判者应用团队已经捕获的判断。生产审查提供下一轮判断，揭示系统在真实对话中的表现，并为需要修复的内容生成证据。

Included Health 展示了新证据如何进入循环。对话进入一个LangSmith 标注队列，临床审查员在此评估 Dot 是否将成员引导到正确的护理环境、其紧急情况护栏是否表现恰当，以及该案例是否需要跟进。

这些决定成为结构化标签，导出到 Included Health 的数据仓库，数据科学团队用它们构建运营仪表板。它们还会反馈到管理 Dot 如何引导成员的技能定义中。每次审查只花费一次，却被使用三次。

结果是一个强大的反馈循环。临床判断变成数据，数据指导产品变更，而这些变更在下一个版本发布前会按照同样的标准进行测试。每次审查既贡献于当前案例，也贡献于系统的未来行为。

将评估变成发布门禁

反馈循环在发布时产生回报。团队不必从头评估每一个候选变更，而是可以对照他们已经捕获的证据进行测试。

在 Abridge，模型变更会经过逐步更贴近真实的阶段：离线评估、针对历史问诊的回测、有限的 A/B 测试、完整发布，以及持续的生产监控。每个阶段都增加一种不同类型的证据。

A/B 测试是这一流程中最不寻常的一步。Abridge 的一些合作伙伴同意成为首批纳入静默发布的 10% 到 15% 客户之一。这让 Abridge 能够观察到自动化评判者无法提供的信号：临床医生是否会编辑生成的笔记、他们如何评价这些笔记，以及他们分享了哪些定性反馈。离线评估确定一项变更是否已准备好进行有限度曝光；生产环境中的行为则决定发布是否应该扩大。这一流程将 Abridge 的发布周期从一两个月缩短到了几天。

Included Health 将同样的原则应用于一次架构变更。将 Dot 的 supergraph 迁移到 Deep Agents 影响了四个产品团队，他们都担心破坏性变更。该团队运行了现有的多轮模拟套件，确认性能保持稳定，并在不到两周内完成了迁移，没有出现重大回归。

在这两种情况下，发布信心变得可以累积。团队不必为每一次变更重新建立信任，而是可以基于已经收集到的证据继续推进。

在生产环境中衡量可靠性

更快的发布周期只有在系统到达真实用户后能够可靠运行时才有意义。Included Health 从三个维度衡量性能：采用率、路由质量和安全性。

每个指标回答不同的问题：会员会使用这个产品吗？它会将他们引导到适当的护理吗？它能识别出需要紧急关注的情况吗？将它们放在一起看，能让团队更全面地了解生产环境的可靠性。

在 Dot 发布之后，Included Health 报告聊天互动率提升了 75%。在已评分的对话中，临床医生对 Dot 护理建议的认同率保持在团队 95% 的目标之上，临床审计显示 Dot 识别出了超过 99% 的高风险情况。

在 Abridge，标注过的问诊记录用于校准针对未来版本运行的评判者；在 Included Health，临床标签的生命周期超过了产生它们的对话。这些产物仍然需要审查和重新校准，但其背后的专家判断不再被单个决策所消耗。

评估流程中的 PHI

让临床判断可复用的那些产物——就诊记录、对话历史与临床医生标注——同样可能包含受保护的健康信息。一旦团队开始存储和复用它们，安全与部署架构就成为评估设计的一部分。

Abridge 将自托管、访问控制和可审计性视为其评估基础设施的硬性要求。他们还会在将对话数据用于学习之前移除其中的身份识别信息。这些不是在评估流水线建成后才添加的控制措施；它们从一开始就决定了哪些数据可以进入其中。

LangSmith 支持托管云、自带云以及自托管部署。团队必须决定评估数据将存储在哪里、谁可以访问、适用哪些审计与保留控制，以及如何处理包含 PHI 的追踪记录。

让信任可重复

信任在医疗 AI 中是缓慢建立的。它随着每一次被正确处理的就诊、每一道护栏，以及每一个在到达用户之前被捕获的回归而增长。然而，一个逃过这些检查的变更就可能将其摧毁。

医疗团队之所以能快速推进，是因为他们确保每一次审慎的审查在审查本身完成很久之后仍持续发挥作用。

如需完整的客户案例，请观看用 LangGraph 构建临床 AI 智能体：Abridge 面向高风险医疗的评估技术栈并阅读Included Health 如何用 Deep Agents 和 LangGraph 构建用于医疗导航的联邦式智能体。

‍