美议员 Khanna 致信 DeepSeek、阿里、月之暗面，推动中美 AI 安全条约

在总统 Donald Trump准备在华盛顿会见科技和 AI CEO 之际众议员 Ro Khanna（加州民主党）呼吁美国与中国签订一项条约，以防止 AI 对世界造成严重破坏。但要说服两国领导人采取行动，可能希望渺茫。

在独家分享给The Verge的信件中，Khanna——众议院中国问题特别委员会的最高级别民主党人，也是一位可能的总统竞选者——询问一家美国情报机构和多家中国 AI 公司，他们是否准备好应对今夏 OpenAI 智能体入侵 Hugging Face 这样的事件。这些公司包括 DeepSeek、Alibaba 和 Moonshot AI，它们都在追求高水平的人工智能。

美国和中国的利益“在许多问题上不可能更不同了”，Khanna 在致国家情报总监 Jay Clayton 的信中写道，“但在这个具体的关切上，让人类失去对我们命运的控制对两国都没有好处。”

Khanna 要求国家情报总监办公室（ODNI）评估美国在 AI 实验室失去对其机器人控制时可能有多有效地应对——这一情景近几个月来已变得越来越常见。与此同时，他要求该机构评估中国政府评估灾难性 AI 风险的方法。他说，这些信息将帮助国会并最终帮助白宫与中方对应官员拟定一项协议。

致 DeepSeek、Alibaba 和 Moonshot AI 的信件要求提供有关它们为实现“超级智能”和递归自我改进（RSI）所做努力的文档——RSI 是 AI 系统能够自我改进的一个里程碑。他还询问了为这项技术实施保障措施和“终止开关”的任何努力，以及如果达成条约，这些公司是否愿意接受非政府机构的检查。这些公司和 ODNI 没有立即回应The Verge 的置评请求。

Khanna 的举动发生在中国国家主席习近平与美国总统 Donald Trump 上周在白宫会晤之后。他说，两人都未能认识到 AI 带来的风险和紧迫性。“我认为 Trump 和习近平至少同意讨论 AI 并就此保持持续对话是具有建设性的，但这远远不够，”Khanna 对The Verge在周一的一次采访中表示。

他对白宫、众议院议长 Mike Johnson（路易斯安那州共和党人）与几位美国科技高管计划于周二举行的会议也持怀疑态度。“我认为这是为了让美国人民放心，这些科技公司会负责任，这是一场品牌公关活动，”Khanna 说。“但那些有动机最大化利润的公司，凭什么该由它们来制定安全规则？不是说他们是坏人，但你会信任制药公司的高管来决定什么药是安全的吗？”

Khanna最终寻求一项禁止 RSI 并监督前沿 AI 实验室的美中条约，但他也承认这不太可能在短期内实现。参议员 Bernie Sanders（佛蒙特州独立人士）也同样呼吁达成一项 AI 条约，尽管像众议院中国委员会主席 John Moolenaar（密歇根州共和党人）这样的共和党人一直持怀疑态度，认为中国政府会履行承诺。与此同时，Khanna 表示他希望成立一个由两国专家组成的工作组，提出安全建议以及确保合规的方法。

但 Trump 及其盟友一直抵制大多数监管或协议。上周与习近平会晤的当天早上，Trump在 Truth Social 上发帖称：“超级智能（SI）将是一个重要的讨论话题，但我想让它保持现状。这也是中国的立场。”Johnson表示在 Fox Business 上，他预计对话将围绕在不扼杀创新的情况下实现监管的“恰当平衡”，并警告不要在与中国的 AI 竞赛中落后。然而，美国领先的 AI 公司呼吁美国与中国协调以减缓发展速度

在致中国 AI 公司的信中，Khanna 承认他们不太可能全面回应。他说，在早前一封要求与 OpenAI 和 Anthropic 一同承诺放缓 AI 发展的信中，他们没有回应请求。Khanna 告诉The Verge他的目标是“让他们感到羞耻”，并在中国 AI 公司中“引发一场关于安全的辩论”。尽管他也批评美国 AI 公司，但他说，“至少他们在参与安全对话。”

Khanna 仍然相信美国将主导 AI 安全标准，部分原因是他认为许多中国模型是蒸馏自美国模型。而且，尽管世界各国领导人可能认识不到这一威胁，但他们“与本国自己的科学家和技术专家脱节”，他说。“我们需要让真正理解这一点的技术专家和工程师来推动这场辩论，而不是那些在盈利中有既得利益的 CEO，也不是那些缺乏技术专长、更关心权力的政客。”