本文最初发表于《The Algorithm》,这是我们每周发布的 AI 新闻通讯。想第一时间在收件箱收到此类文章,请在此订阅。
经过数周的疯狂猜测,Anthropic 已提交其 IPO 招股说明书。这份 335 页的文件(其中约 100 页聚焦于风险)阐述了该公司对其正在构建的技术的独特看法,以及它认为该技术将如何改变世界。
但 Anthropic 多年来一直在打磨其叙事技巧。事实上,它的对外传播堪称叙事俘获的典范之作。
本月早些时候,该公司联合创始人兼政策负责人 Jack Clark 在曼谷举行的 IMF 会议上发表演讲,向与会的经济学家、银行家和立法者宣布,奇点已经到来。
奇点这一概念由科幻作家、未来学家 Vernor Vinge 在大约 40 年前提出(长期以来在互联网上较为极客的圈子里引发争论),它本应指技术发展到极为先进、以至于超越其创造者能力的那个时刻。
按照这一设想,人类将被甩在身后,再也无法与——甚至无法理解——他们昔日创造物的成果相竞争。
而那个我们许多人从小就想象过的虚构世界呢?显然我们已经身处其中了:“我相信,今年我们已经获得了令人信服的证据,证明它已经开始,”Clark 对听众说道。
该公司讲述了一个生动(且在诸多方面令人恐惧)的未来故事,将其描绘为不可避免,尽管它尚未发生,且往往挪用了老套的科幻桥段。它将自己的技术呈现为神秘而危险,并坚称自己是唯一足够可信、能够驯服这项技术的公司。(哪个投资者会不想参与其中呢?)
再举一个例子。去年,Anthropic 的另一位联合创始人 Chris Olah 受邀在梵蒂冈发表演讲,他向教皇利奥十四世以及其他宗教学者和官员讲述了他的公司对其技术的发现。“说实话:我们不断发现一些神秘、甚至令人不安的东西,”他说。“我们发现了内省的证据。我们发现了在功能上类似于喜悦、满足、恐惧、悲伤和不安的内部状态。”
别管许多研究人员会对这种直白暗示 Anthropic 的软件具有类人内心体验的说法嗤之以鼻。在一切都显得如此不确定的时候,Anthropic(以及其他前沿 AI 公司)所说的话就像沉船碎片一样被人们抓住不放。
我并不是说他们在这些事上一定是错的。(那是另一回事。)但在一个没人知道未来会怎样的世界里,像 Anthropic 这样的公司得以填补这片真空。
值得花点时间问一句:Anthropic 是什么?这听起来像是家庭问答节目里的入门题,但答案远比你想的要难。
自从上周读到 X 上由 Nathan Calvin 引发的一场交流后,这个问题就一直萦绕在我心头。Calvin 是 Encode AI 的首席战略官,这家机构位于华盛顿特区,倡导监管。Calvin 对 Anthropic 在一份草案法案中提出的立法不满——该草案曾被秘密散发给美国议员(随后遭到泄露)。
Calvin 说,Anthropic 想被看作好人。但我们为什么要信任它?“Anthropic 是什么?”他问道。
这里有一个答案:Anthropic 是一家 IPO 估值超过 1.5 万亿美元的公司,让其联合创始人——包括 Clark 和 Olah——获得了巨额财富。
但 Anthropic 一直坚称自己不止于此。正如 Calvin 所指出的:Anthropic 也可能被视为一家 AI 安全组织,专注于开发可靠且(几乎)无风险的强大技术。或者它也可能被视为一群人,执意要抢在所有人之前创造出一种具有超人能力的技术——也许是因为他们相信自己是最负责任的人选,也许是因为他们的自负。
事实上,Anthropic 兼具以上所有身份。正如 CEO Dario Amodei 在回复 Calvin 的帖子时所说:“我们的战略一直是我所称的‘向上竞争’——通过展示如何负责任地构建这项技术,我们能够提高整个行业的门槛。如果践行这一战略的公司处于前沿,推动向上竞争的力量就会有效得多;这是我反复领悟到的一个教训。纵观这一战略的整体,我为我们的过往记录感到自豪,并坚持这一战略。”
Amodei 说得好像一切尽在掌握,但扮演多重角色并不容易。例如,一家 AI 安全组织的优先事项与一家利润驱动的巨型企业之间存在着巨大的张力。(Amodei 在帖子中承认自己犯过错误。)
归根结底,Anthropic 对自己讲述的故事,应当帮助我们理解它对我们讲述的故事。它们应当帮助我们判断,在多大程度上可以信任它进行自我监管,或者我们是否应当迫使它按照我们的条件而非它的条件,让外部安全测试人员访问其模型。当一项看似自私自利的立法浮出水面时,它们应当帮助我们决定是否给予它善意推定(或不给予)。
但我认为这些故事揭示的是一个多头蛇怪。对许多人来说,Anthropic 有着多重身份,而我不确定这是否让它更值得信任。在许多方面,一家老派的好技术公司——没有科幻角色扮演,没有那些玄乎其玄的东西——会容易解读得多。