基于 AI 的工具似乎几乎每天都在造成安全威胁,部分原因是我们对潜在威胁的认识一直很迟缓。然而,有一个领域我们似乎走在了前面,那就是生物安全。

与大多数生物相关的事物一样,实用性总是与威胁相伴而生。我们已经开发出越来越精密的工具来设计蛋白质,并取得了一些重大成功,例如能够消化塑料或阻断毒液蛋白的 AI 设计酶。但这些同样的工具也可能被用来制造毒素或改变病毒蛋白的行为。

而我们用来识别编码潜在威胁蛋白的 DNA 序列的软件,并不能识别出 AI 设计的蛋白质,因为还没有人对其特征进行足够充分的描述,从而知道它们构成威胁。在该风险被标记近一年后,仍然不清楚任何人能对此做些什么。

阅读全文

评论