OpenAI 与波兰 NASK 国家研究院签署协议,探索在 AI 安全、安保和技术研究方面的合作。该合作将汇集双方的专业知识,以更好地理解新兴风险、加强防护措施,并探索先进 AI 如何助力构建更安全、更具韧性的数字生态系统。

随着 AI 系统能力不断增强,开发者与公共研究机构之间的国际合作对于理解其风险和构建更强防护措施至关重要。OpenAI 与美国超级智能标准与创新推进中心(CAISSI)、英国 AI 安全研究所(AISI)以及全球其他公共研究机构的现有合作,已帮助加强防护措施、识别并修复 AI 智能体中的安全漏洞,并推进前沿 AI 安全。

根据该协议,NASK 的 AI 安全研究中心——作为波兰人工智能安全研究所(AISI)——将与 OpenAI 在 AI 安全研究方面展开合作,探索评估能力日益增强的 AI 系统、识别潜在漏洞并加强防护措施的方法。

OpenAI 已呼吁美国与世界各国合作,制定前沿 AI 的国际技术标准,并借鉴 AI 安全研究所和标准机构的专业知识。在能力评估、风险评估、防护措施测试和事件报告方面采取共同方法,可以帮助各国比较证据并应对跨境风险。与 NASK 的合作体现了将国家专业知识纳入这一更广泛努力的价值。

就 NASK 而言,其专业知识建立在 AI 安全领域的广泛研究之上,并直接应用于保护公共服务和波兰的数字信息生态系统。如果没有像 NASK 这样的国家合作伙伴,全球 AI 安全标准可能会与实际使用 AI 的现实脱节。

该协议还建立在 OpenAI 与波兰网络防御者现有合作的基础上。今年 7 月,隶属于 NASK 运营的 CERT Polska获得了访问权限⁠(在新窗口中打开)通过 Daybreak 获取 OpenAI 具备网络能力的模型。该团队利用 OpenAI 模型帮助发现了 MikroTik RouterOS 中的六个漏洞,其中包括可被组合利用、在无需身份验证的情况下控制受影响设备的缺陷。厂商已发布修复程序,CERT Polska 确认这些修复阻止了其观察到的攻击。