工业 AI 正在进入一个新阶段。在数十年的预测分析和其它专用应用之后，基础模型、物理 AI 和智能体 AI 的进步，使得在工业环境中自动化更复杂的任务成为可能。但与纯粹在数字世界中运行的 AI 不同，工业 AI 可以直接与物理系统交互，在那里，一个意外的决策可能对安全、可靠性和关键基础设施造成后果。
这使得负责任部署成为下一波工业自动化的核心。"我们如何在利用这些技术的同时保持安全、保持可靠运营，同时仍能兑现新能力的承诺？"AVEVA 首席技术官 Arti Garg 问道。随着更新的 AI 系统变得能力更强但也更难预测和解释，这一挑战尤为严峻。
让这一转型奏效的基础之一是数据。工业系统通常包含跨遥测、服务日志、工程文档和其它分散来源的信息。更新的技术可以帮助更快地连接和关联这些信息，在诊断问题时为操作员提供实时支持。AI 驱动的机器人可以更进一步，在危险环境中收集信息，而无需工人进入其中。
但更大的自主性也需要新的治理方法。AVEVA 的负责任 AI 框架强调安全性、效率以及人员安全与监督。Garg 认为，AI 应增强而非取代关键决策回路中的人，由护栏决定自动化系统可以在哪里行动、人类监督者在哪里仍负有责任。
可持续性是这一方程式的另一部分。随着可再生能源发电的增长，AI 可以帮助管理复杂的电力系统，同时组织也需要更好的方式来理解 AI 自身的环境足迹。Garg 参与了一个 IEEE 工作组，正在制定一种标准方法，用于衡量 AI 在电力、能源、资源、水和碳方面的环境影响。
下一阶段可能会将工业 AI 进一步带入物理世界，从自主机器人和无人机，到让领域专家能够构建新应用的 AI 辅助编码。但 Garg 表示，要实现这一潜力，需要的不仅仅是部署新技术。组织需要重新思考业务流程，建立适当的保障措施，并为经验丰富的员工提供运用其专业知识的新方式，从而创建一种不仅更自主，而且更安全、更高效、更可持续的自动化模式。
“自主系统，无论是机器人还是无人机，都将真正改变我们在工厂、电力系统和矿场的工作方式，”Garg 说。“在某种程度上，这将使这类运营更高效，对参与其中的人员更安全，也更富有成效。”
本期 Business Lab 节目由 AVEVA 合作制作。
完整文字记录
Megan Tatum：来自 MIT Technology Review，我是 Megan Tatum，这里是 Business Lab，一档帮助商业领袖理解从实验室走向市场的新技术的节目。
工业 AI 或许并不新鲜，但它正以惊人的速度发展。从能够预防设备故障的现代预测分析，到负责检查高风险机械的自主机器人，新兴应用有潜力彻底改变运营效率。但由于常常用于后果严重、容错空间极小的环境，缺乏清晰性、安全性或问责机制而部署的工业 AI，也可能随着时间的推移对关键基础设施造成灾难性后果。当各行业急于拥抱最新技术时，目标始终应该是负责任的 AI，其设计初衷是支持而非取代至关重要的人类判断。
给你两个词：可持续自动化。
今天的嘉宾是 AVEVA 的首席技术官 Arti Garg。
本播客由 AVEVA 合作制作。
欢迎，Arti。
Arti Garg：谢谢你，Megan。很高兴来到这里。
Megan：非常感谢你加入我们。首先，如果能为我们的讨论设定一些背景，你能分享一下工业 AI 的现状，以及 AVEVA 目前正在做的工作吗？
Arti：好的，非常乐意。我想回到你刚才提到的内容，即在某些方面，工业 AI 并不新鲜。即使是在 AVEVA，我们也已经在这方面工作了 20 多年，真正在思考 AI 如何增强工业领域的应用。
但也许在过去几年里发生了相当大的变化的是 AI 的类型。我们确实已经转向这些通用基础模型，它们让更多人能够利用先进的 AI 技术。除此之外，就在过去几年里，所谓的物理 AI 以及那些能够真正加速机器人和自主系统能力的 AI 类型出现了爆发式增长。还有智能体 AI，它也允许在更多软件层面实现自动化。
而我们看到的是，虽然过去人们对采用那些结果并不完全可预测的模型有些犹豫，但即使在工业领域，AI 的采用也出现了快速加速。一项研究显示，工业领域在过去仅仅两年内可能增长了近 78%。所以是的，这是一个拐点，但如果你从 AI 采用的角度来看，它几乎像是一个阶跃函数。
而 AVEVA 现在真正在思考的是，我们该如何看待这件事？我们该如何在客户拥有关键任务运营、人身安全是重要因素的环境中，融入这些全新且非常强大的 AI 技术？当客户考虑采用任何新技术时，这些是他们最主要的顾虑之一。我们正在以审慎的方式来做这件事，因为这些较新的 AI 类型在行为方式上并不一定可预测。这正是我们真正在思考的领域之一：我们如何在保持安全、保持可靠运营的同时，利用这些技术，同时仍能兑现新能力的承诺？
Megan：需要考虑的事情太多了，不是吗？你刚才概述了近年来我们在这一领域看到的一些巨大发展。是什么让这成为工业 AI 尤为关键的时刻？发生了什么变化，使得那些或许更天马行空的假设变得更加可信？
Arti：嗯，我认为工业 AI 领域的一大重点、一大挑战——而这对 AVEVA 来说，是流淌在血液里、刻在核心 DNA 中的东西——就是要在工业领域真正利用任何类型的数字技术，你往往首先需要做的重要事情之一，就是从各个分散的系统中收集并关联数据。比如，我可能有来自一台泵或混合器的遥测数据，我希望能够将其与服务日志关联起来，这样我就能知道也许上一次有人对那台泵或混合器进行维护是什么时候。也许我还希望将其与原始设计文档以及一些关于如何维护它的原始文档关联起来，这样如果发生了什么事，我就能更好地诊断出问题所在以及如何解决。这一直是工业领域的一项核心挑战。
我认为现在正在发生的情况是，随着新技术的出现，甚至像图数据库这样的东西，以及能够利用 AI 更快地匹配不同的数据集，我们已经能够达到这样的程度：如果出了问题，操作员不再需要花一点时间做研究，去真正理解这些不同的信息组件是如何组合在一起的，他们可能只需要一台 iPad，上面有一个 AI，可以非常快速地获取这些信息、将它们关联起来，并几乎实时地帮助诊断正在发生的情况。
甚至再进一步一点，但并没有你想象的那么遥远，我仍然用一个人工操作员来描述这个场景，可能带着一台移动平板，但现在想象我还可以让一个机器人在那个环境中移动，同样收集数据，要么通过机载计算，要么通过与操作员的快速连接——操作员现在不一定非要进入一个危险的、可能有些危害的空间——能够收集数据并实现同样快速的诊断。我认为这正是当下真正令人兴奋的地方，也是我谈到的所有这些新技术正在帮助实现的东西。
然后我认为，从我们的角度来看，试图真正利用所有这些，意味着我们现在必须大量思考我们对此的治理方式。我们如何以一种能够将其控制住的方式来利用 AI，如果你愿意这么说的话？
Megan：是的，绝对如此。关于治理这一点，AVEVA 如何定义负责任 AI，你认为主要的好处是什么？
Arti：是的，所以我认为对我们来说，我们考虑的是围绕负责任 AI 的三重使命，这意味着它是安全的、高效的，其中包括环境高效，然后最重要的是它真正维护了人类安全和人类监督。对我们来说，这就是我们负责任 AI 的一些核心支柱所包含的内容。对我们来说，这意味着我们在内部构建工具时，会考虑一种多层次的治理方法，既涵盖我们作为一家公司如何使用 AI，也涵盖我们如何将 AI 部署到我们的产品中。我们在两者之间利用了一个类似的框架，一种联合治理模式，既围绕我们如何利用 AI，也围绕我们如何将 AI 融入我们的产品，让我们的客户能够在其运营中利用 AI。
但我想说，在所有这些之下，一个核心的基本原则是，在我们思考如何利用 AI 时，人类仍然处于中心位置。因此，人类判断、人类责任、人类伦理仍然是我们思考 AI 能在何处带来益处时的核心，我们更多地将其视为在关键决策循环中增强而非取代人类，如果你愿意这么说的话。
Megan：对，这是一个多么重要的区别，不是吗？就下一阶段的发展而言，越来越多的人认为智能体 AI 很快将允许这些工业系统以更加自主的方式运行。我想知道，工业环境中的风险与纯数字环境中的 AI 风险有何不同？我想反过来问，同样的软件定义自动化又有哪些好处和机会？
Arti：我认为我们可以先从风险谈起，然后再谈收益。最终我想说的是，工业环境中最大的风险在于，我们是在与真实的物理系统交互，这些物理系统往往能够产生维持我们世界运转的重要成果，无论是输送电力，还是开采自然资源。但通常，这些物理系统也运行在危险环境中，设备本身也可能对人身安全造成影响。任何时候，当你把软件与可能产生现实世界后果的物理系统对接时，你都必须格外小心。我们一直都有这种意识，再说一次，从 AVEVA 创立之初，这种意识就根植于我们的基因之中，始终关注最终用户和最终应用，而不仅仅是电脑屏幕上的东西。
即便在过去几十年里我们已经将 AI 部署到我们的系统中，我们通常也倾向于真正去挑选最合适的模型，真正去理解那个模型的行为——比如说，我们有一个专有的异常检测模型，它在许多运营环境中都能发挥作用。而现在，当我们在思考一些更新的 AI 能力时，这些能力在设计上就难以理解其行为方式，它们不像我们过去所理解的 AI 或统计模型那样从根本上可解释，而且实际上它们的行为会随着学习和针对新能力的调优而随时间变化。这正是基于会随时间演变的能力来自动化物理系统的潜在风险，也是我们必须真正警惕、真正深思熟虑的事情之一——我们愿意在哪些地方将这种更高程度的自动化付诸实践？
但与此同时，我认为那里存在一个真正的机会，因为我刚才轻描淡写地提到了这个想法：好吧，模型在进化，但人类也在进化，而有时这是一件好事。我们谈论人类拥有专业知识，他们在职业生涯中逐渐理解一个系统是如何运作的。如果我们能真正利用一些较新的 AI 能力——这些推理模型通常具有底层的智能体能力——来更快地学习和积累经验，并且可能更重要的是或更有价值的是，把一个站点学到的经验应用到另一个站点，那么这就是一个真正的机会，可以把我们已经知道对人类有效的东西——即有时你只能通过实践来学习——加以应用，并通过 AI 将其规模化。这就是我认为这个领域可能存在真正机会的地方。
在工业领域，我们真正意识到的一件事就是我们的劳动力正在发生变化。我认为几乎一半——还不到一半——的工业劳动力将在未来五年内退休，这意味着该领域将失去大量的专业知识和经验。如果有办法确保我们能够以可操作的方式将其捕获下来，并以也能帮助习惯于以不同方式体验事物的新一代工人的方式，应用这些专业知识和知识，那么我认为这在工业领域是一个巨大的机会。
Megan：是的，绝对如此。显然，那里存在一些巨大的机会，尤其是在你所概述的其他市场和劳动力变化的背景下。我想在此基础上问一下，这些自主工业 AI 系统在负责任地构建和部署后，有多大潜力能够促进更快、更可持续的工业流程？
Arti：我认为可以从几个不同的角度来思考这个问题。一个是，潜在更环保可持续的流程有哪些需求？我举一个例子，我的团队一直在与美国爱达荷国家实验室合作开展的一个项目，作为他们 AI 电网韧性测试项目的一部分。
随着我们迈向一个拥有更多间歇性可再生能源发电来源（例如常见的分布式屋顶太阳能）的未来，电网面临的挑战之一是，管理电网变得越来越困难，无论是真正理解电力容量从哪里输入、电力负荷从哪里从电网抽取。除此之外，还要能够维持电能质量，因为不再是靠一个旋转设备来提供穿越电网的电力的频率，而是有许多更小的系统。AI 实际上对于管理未来的电网相当关键。这也是我们一直在合作开展的事情之一：我们如何做到这一点？我们如何帮助电网运营商更好地理解其系统中正在发生什么，识别出哪些地方可能出现异常行为，以便他们能及早发现并进行补救？
不过与此同时，我一直在说，这是一个 AI 有可能帮助我们加速向低碳能源未来转型的例子。与此同时，我认为围绕 AI 自身的可持续性也有很多讨论。电力需求是什么？运行 AI 需要哪些资源？在进入 AVEVA 如何看待这个问题之前——因为这确实是我们思考的问题，我认为这个领域的很多参与者也在思考——我想指出，挑战之一在于，目前真的没有一种公认的方法来衡量 AI 的环境影响。你会看到很多这样的报道，比如在某种聊天界面上进行一次查询会消耗 X 加仑的水或多少电力。但事实是，在整个业界范围内，并没有公认的标准。
我参与的一件事是 IEEE 两年前——两年多前——发起的一个标准工作组。我是那个工作组的主席，它叫 P7100 标准工作组，负责衡量 AI 的环境影响。我们试图做的一件事，就是真正识别出我们希望思考与 AI 相关的环境可持续性的所有不同领域，然后制定出一套行之有效的标准方法，既能从报告的角度被采用，也有可能从监督或监管的角度被采用。这对于真正理解 AI 如何影响环境来说变得非常重要，因为我们必须知道，它使用了什么？我们希望全面地看待这一点。我们的标准涵盖电力和能源消耗，涵盖资源使用，涵盖水消耗，也涵盖碳。
但话虽如此，我认为重要的是我们要理解 AI 的足迹，但同时也要认识到，更大的模型使用更多的算力，而更多的算力可能利用更多的资源。我们越能有意识地为合适的应用选择合适规模的模型，就越能走上让所运行的 AI 更加环保高效的道路。这样做的一个潜在好处是，模型越是为特定目的而构建，只要架构选择得当，它就越不可能以不可预测的方式出现异常行为。这类附带的好处超越了环境可持续性。
Megan：太有意思了。听到幕后正在进行的一些工作真的非常非常有趣，因为正如你所说，我想我们都听说过一些关于环境影响的统计数据。所以，能了解那里正在进行的一些工作来真正澄清这一点，真是太好了。
我们之前稍微谈到了 AI 对人类能力的增强。随着系统获得更大的自主性，组织应如何思考闭环自动化与人在环问责之间的平衡？需要设置哪些护栏？政府及跨境参与者又是如何应对这些关切的？
Arti：这个问题包含的内容很多，所以我尽量逐一回答。首先，从闭环与人在环、自动化与问责之间的那种平衡说起。在工业领域，我们谈论的一件事是从人工操作员到工业系统的人工监督者。说实话，我们仍在努力弄清楚这一点。当人类处于自动化系统的环路中时，你真正考虑的是系统可能会处理所有数据，然后给出建议。
我们有一个解决方案，一直在与几个不同的客户更紧密地合作推进，我们能够接收大量他们的运营数据，以及一些关于他们系统如何运行的模拟，并能够提供比如建议，告诉你现在应该基于工厂中其他一些正在变化的条件，在这个设定点而不是那个设定点运行。人们很有兴趣从给出建议设定点转向拥有一个能够自动调整设定点的自动化系统。我们实际上在这方面已经有一些成功的真实世界试点。
但当你进入那个阶段时，很明显，如果你在工业设备上更改设定点，会让人非常紧张。这就是你可能需要继续设置一些护栏的地方，比如，你不能超出某个特定的运行范围，或者我们只允许在某些区域使用自动化。这就是人类监督者发挥作用的地方，就像人类监督者可能会给员工很大的空间或灵活性，让他们在某些事情上做决定，而在其他事情上则是硬性规定，比如这是截止日期，或者这是某种生产目标。就是这样。所以要思考的是，你如何设置适当的护栏？
挑战在于，AI 不是人类，因此护栏看起来不同，我认为这是仍然需要思考的事情之一。关于应该设置什么样的护栏这个问题？我认为这可能会在一定程度上取决于应用场景，但随着时间的推移，我想我们都会学到，所以真正坦诚和深思熟虑地去做这件事，我认为很重要。
但机会呢，可能真的很大。我已经提到过，AI 在综合大量信息并把关键内容凸显出来方面非常有用，这就是重要的事情。这是我们确实想要创造一些空间去实验的东西，但随后重要的是确保人类理解风险。
我讲一个个人小故事，因为它可能有点说明性。这个周末，我买了一个小玩具机器人，决定要编程让它做一些事情，然后我发现 AI 非常、非常有帮助，能让我快速上手阅读所有文档。把机器人组装起来很简单，他们有不错的说明书，但已经有一个相当重的软件开发工具包在那里了，不过通读所有那些文档可能要花不少时间。AI 超级有帮助，帮我找出这个函数是干这个的，帮我上手。但偶尔，它在排查某个问题的最佳方法上给出了非常糟糕的建议。
这就是我认为让人类留在循环中、能够说“我知道它不会是最好的软件架构师或最好的故障排查者”非常有帮助的地方，因为我有机会把 AI 用在它擅长的地方——综合和呈现大量信息，但也能说“我不认为那是最有效的第一步。我们试试别的。”这就是一种非常不同的工作方式，但我认为随着人类越来越适应 AI 的能力和局限，你可以开始教人们如何与它协作，而这与你使用其他数字工具的方式非常不同。
谈到 AI，重要的一点是要认识到它所触及的广度以及它将产生的影响的广度，无论是像我们讨论过的对环境的影响，还是这场讨论中隐含的对生产力的影响，还是对劳动力的影响，还是对经济如何运作的影响。在我看来——我绝不是这个领域的政策专家——但在我看来，我看到的是不同政府正在优先考虑其中不同的方面，从他们如何思考监管和其他治理方式的角度来看。
Megan：我们确实看到世界各地在这方面有着一些非常迥然不同的做法，对吧？我想为了说明这一点，你能否分享一些你见过的案例研究，也许可以带我们梳理一下它们能为其他组织——也许是那些在自身 AI 之旅中起步稍早的组织——提供哪些经验教训。
Arti：我认为，在工业领域我们看到采用 AI 带来非常明显收益的许多关键领域，其核心实际上都是把数据做对，建立起正确的数据基础，这样你才能在其之上构建 AI。
我们的一个客户 SCG Chemicals，是泰国的一家石化公司，他们有一个愿景，就是为其运营打造一个尽可能由 AI 驱动的可靠性平台。但其中的核心部分实际上是把数据做对，能够把所有信息放在正确的位置，借助 AVEVA 的一些工具来实现这一点。把运营数据和工程数据汇聚在一起。然后在其之上叠加 AI 能力，在这个案例中，是我们的一项名为 AVEVA Predictive Analytics 的能力，它部署了一些专有模型来做诸如检测异常之类的事情，这样他们就能更早得多地识别潜在的运营风险。并且不是发生非计划停机，而是将其转化为计划停机。当你把非计划停机转化为计划停机时，工厂可靠性就能获得巨大提升。
目前他们的目标大约是 99% 的工厂可靠性，以及从他们部署的平台中获得非常非常高的投资回报。同样，在早期试点阶段，投资回报率几乎达到 9 倍，所以这确实相当令人印象深刻。但我想强调的是，要把这件事做对，是一个多层次的问题。
Megan：不过这些结果确实相当引人注目。我的意思是，对于那些或许仍在犹豫是否要探索 AI 的工业领袖来说，我想知道，你认为采取更偏向观望态度的代价是什么？
Arti：我认为，这又是一个工业领域在应对这类问题时需要采用略有不同的考量方式的领域。总的来说，我想你会听到大多数商业专家说，你不能对 AI 采取观望态度，因为它在社会和经济的每个领域都具有如此大的变革性，当然在工业领域，我们也不能幸免。但我确实认为，我今天概述的一些挑战也会让工业领域的领导者进入一种心态，即有时可能成为新技术的快速跟随者，而不是第一个采用者，因为风险太高了。
但话虽如此，我认为挑战之一在于，我们今天所涵盖的围绕将并不总是可预测地行为的系统注入物理系统所带来的风险是，我不知道是否还有很多其他领域会去解决这些问题。这正是我所看到的，实际上有很多兴趣和兴奋去尝试新事物，并且愿意这样做，因为人们认识到，如果应用得当，并在适当的位置设置正确的护栏和保障措施，这些技术从资源使用、人身安全、生产力的角度来看，确实具有真正的变革潜力。
我认为该领域的考量已经有所转变，变成了我们实际上想要尝试这些东西。但接下来更多的问题就变成了，我们如何在可以使其更具沙盒化或更安全的环境中来尝试这些东西，以测试我们在工业领域将面临的一些独特挑战？
Megan：是的，绝对如此。如今就是很难忽视这种潜力，不是吗？作为收尾，我想稍微展望一下未来，就负责任的自主工业 AI 系统的长期潜力而言，你最热衷的是什么？
Arti：是的。嗯，我认为会有几种不同的发展轨迹。我认为在未来 18 个月内肯定会看到的一件事是，越来越多拥有深厚领域专业知识、可能并非软件背景出身的人，能够采用 AI 辅助编码技术，真正构建出他们以前无法构建的东西。
这在我的职业生涯中真的令人兴奋。早在我还是一名工业数据科学家的时候，我一直觉得，与那些身处运营一线、需要监控各种设备并理解它们如何协同工作的人交谈，让我最有活力，也学到最多。他们确实拥有大量专业知识，而能够把快速开发新应用的能力交到他们手中，我认为这真的会带来许多新想法，这些想法可能是我们工业软件领域的许多人甚至从未想到过、也真正理解该如何实现的。我觉得这真的很令人兴奋。
然后我认为，再往远看，我过去有点算是个——不能说机器人怀疑论者，因为显然机器人和自主系统将会很重要，尤其是考虑到工业设备所处的那些环境，无论是危险环境还是偏远环境。但我实际上认为，事情的发展速度比我预想的要快得多。我真的很想看看这些 AI 系统的物理实体形态将如何真正开始改变——再次强调——我们对运营的思考方式。
在任何环境中，任何新技术都有一点：要真正从中获得价值，你必须改变做事的方式。我想说，近 10 年来，我一直在做关于 AI 采用的演讲，我总是说，AI 采用的最大障碍与技术毫无关系。它甚至与数据也无关，尽管数据往往是最关键的症结所在，它真正关乎的是：你是否愿意改变你的业务流程，以便与这项技术擅长或不擅长的事情相配合？
自主系统，无论是机器人还是无人机，都将真正改变我们在工厂、电力系统和矿场的工作方式。我认为这将使这类运营更高效、对参与其中的人员更安全，并且更富有生产力。所以，我对此非常兴奋。
我不完全知道它会朝哪个方向发展，但我经常思考的一件事是，如果你回到《我，机器人》和 Isaac Asimov 的那本书，它们的前提是机器人技术将成为第一个被广泛采用的 AI，而不是基于计算机的系统。我们走向了另一个方向，而我认为现在看到这一切汇聚在一起真的很有意思。
Megan：是的，绝对如此。看机器人技术稍微追赶上来了一些。未来有那么多令人兴奋的事情，这是肯定的。非常感谢你抽出时间。
那是 Arti Garg，AVEVA 的首席技术专家，我在英格兰的 Brighton 与她进行了交谈。
这就是本期 Business Lab 的全部内容。我是你的主持人 Megan Tatum。我是 Insights 的特约编辑，Insights 是 MIT Technology Review 的定制出版部门。我们于 1899 年在 Massachusetts Institute of Technology 成立，你可以在印刷品、网络上以及每年世界各地的活动中找到我们。想了解更多关于我们和本节目的信息，请访问我们的网站 technologyreview.com。
本节目可在你获取播客的任何地方收听。如果你喜欢我们，希望你能花点时间给我们评分和评论。Business Lab 是 MIT Technology Review 的制作，本期节目由 Giro Studios 制作。非常感谢你的收听。再见。
欲了解更多信息，请访问 aveva.com。
本内容由 Insights 制作，Insights 是 MIT Technology Review 的定制内容部门，而非其编辑团队。它由人类进行研究和撰写，任何可能使用的 AI 工具都仅限于在人类监督下的制作流程。