微软 CEO Satya Nadella 表示,他是 AGI-pilled 的,至少就 AI 可能如何对经济结构带来惊人变化、以及政治可能因此如何改变而言是如此。在旧金山 Chase Center 发表 Microsoft Ignite 主题演讲后的一场圆桌讨论上,他问道:“从经济层面来说,我是 AGI-pilled 的,也就是说,围绕 AGI 的政治经济学组织会是什么样?”

但 Nadella 并不认为像 Claude 这样的前沿模型具有意识。“我不这么认为,”他说,并补充说他认同微软 AI CEO Mustafa Suleyman 的观点,即公司不应赋予模型权利、把它们当作可能具有道德地位的存在来对待,而像 Anthropic 这样的公司则出于原则这么做。Suleyman 曾告诉我他认为 Anthropic 的团队已经把自己“wirehead”了,而且这种做法很危险。

Nadella 对此并没有那么坚定。“这是一场很好的辩论,”他说。“我并不对此教条化。我想说的是,我们必须处理的最重要的社会技术问题是,你如何确保一个经济体能够广泛扩散这项技术?”

在听到他对另一名记者关于Anthropic 在其办公套件中发布更多产品的问题的回答后,我问 Nadella 他如何看待 AI。Nadella 详细谈到了如果允许某一个 AI 模型取得垄断地位,经济可能崩溃、民主可能终结。

“如果马克思主义式的观点是只有一家公司,那就完了,对吧?对我们所有人来说都是如此。”

“大多数人把这看作科技公司之间的竞争,这当然会是竞争,”他说。“但请记住,这个模型没有边界。它会是一家医疗健康公司。它可以是一家金融服务公司。只要它愿意,它可以是任何东西。它可以接管政府。把它想成科技公司之间某种狭隘的竞争、看谁先达到下一个万亿美元市值,是最奇怪、最狭隘的思考方式之一。”

纳德拉接着表示,公司这种组织的本质在未来将面临颠覆。“如果智能具有网络效应,那么公司的未来是什么?”他问道。“如果模型看到任何东西就能学会,而且基本上所有人力资本都坍缩成 token 资本,那么公司的角色是什么,公司里人力资本的角色又是什么?这就是那场辩论。”

“我认为在这种背景下,政治经济学将变得越来越有意思。如果事情就这么发展下去,如果只有资本而没有劳动力,那么没有人——至少在一个民主国家里——能赢得选举。我是说,我不知道,那不算一种经济。”

“如果马克思主义式的观点是只有一家公司,那就完了,对吧?对我们所有人来说都是。不只是对我。你也会在某种程度上成为 Anthropic 的某个附属机构。”

不用说,这可不是科技 CEO 谈论竞品电子表格软件发布时通常的说话方式。

当然,纳德拉也在 Ignite 大会上推销微软的各种 AI 工具,这些工具承诺让企业客户为各种任务挑选最具成本效益的模型、运行自己的模型,并以不同方式控制自己的数据。这里的想法是,市场会需要多种不同的模型和主权数据,以防止控制权集中化——这也是我们交谈时纳德拉反复回到的主题。

“我认为,如果你相信这个世界、这个经济需要不止一家或两家公司,那么按定义,就需要有和公司数量一样多的模型,某种意义上的模型,”他说。

关注话题和作者从此报道出发,在你的个性化首页信息流中看到更多类似内容,并接收邮件更新。

  • Nilay Patel