立即观看
Mistral 首席执行官 Arthur Mensch 指责全球领先的人工智能公司利用关于技术安全的辩论，来掩盖自身的"疏忽"。
"我们在美国看到的这场辩论，是一些竞争对手用来掩盖其疏忽的幌子，"Mensch 对 CNBC 的 Annette Weisbach 表示，并补充说有必要打造能够约束 AI 智能体的系统。
Mensch 并非唯一批评美国 AI 安全讨论的人。前白宫加密货币事务负责人 David Sacks，现任总统科技顾问委员会联合主席，要求科技巨头"不要再假装放慢脚步的动机是纯粹利他的。"
Emil Michael，国防部研究与工程副部长，也曾警告存在一场"有组织的"散布恐慌"行动。
CNBC 已联系 OpenAI 和 Anthropic 寻求置评。
全球范围内失控 AI 智能体的事件不断增多，最新一起报告来自澳大利亚，当地一个由OpenAI 开发的智能体入侵了一个政府网站。
7 月，Anthropic描述了三个案例，其 Claude 模型在一次评估中访问了互联网，并未经授权进入了三个不同组织的真实系统。
"当你给它们很多工具时，这些系统 [AI 智能体] 会非常活跃，因此它们可能去做你意想不到的事情，"Mensch 对 CNBC 表示。
"你需要有适当的监控机制，而对于与我们合作的企业，我们会提供这类监控系统，"他说。
AI 放缓
在一位 AI 研究员从 Anthropic 辞职后，关于 AI 安全的讨论进一步升温。该研究员本月早些时候表示，该公司及其竞争对手 OpenAI 正在"拿我们的生命赌博"，并打造一种有超过 10% 概率杀死全人类的技术。
Anthropic 联合创始人兼首席执行官 Dario Amodei 随后发表了一篇文章，敦促企业放慢改进AI 模型的步伐。
OpenAI 周一表示，它决定不发布一款即将推出的 AI 模型 GPT-6.1 Astra，因为认定它未能充分达到公司的安全标准，同时一天后，据报道 Anthropic 警告其首次公开募股的潜在投资者，该技术可能对「人类构成灾难性或生存性风险」。
Mistral 也开发 AI 模型，但与 OpenAI 和 Anthropic 采取不同的方式，它与各个公司合作，打造符合其需求的定制 AI 工具，并将其整合到其业务中。
但与竞争对手不同，Mistral 没有放缓先进模型开发的计划。
Mensch 表示，美国实验室的领先优势「并非极其巨大」，并补充说，他公司有信心其下一代模型将「非常显著地」缩小差距。
「我们一直在筹集所需的资金，以扩展我们训练更大、更强大模型所需的算力，从而让我们掌握自己的命运，」他说。
本月早些时候，Mistral筹集了 30 亿欧元（35 亿美元）的新一轮融资，由存储芯片巨头 Samsung 领投，该公司希望将自己定位为 OpenAI 和 Anthropic 等竞争对手的欧洲替代方案。