OpenAI 与 AMD 合作,在不到五个月的时间里,在 AMD 的旗舰 GPU IP 上实现了最高 14% 的 PPA 提升(功耗、性能和芯片面积)。根据OpenAI的说法,这相当于在 AMD 工程师已优化多年的设计之上,又取得了约一年的进展。OpenAI 表示,AMD 已将部分改动纳入一款已送交制造的设计中。
同样的方法也帮助了Jalapeño,这是 OpenAI 的首款定制推理芯片。在使用开源 RISC-V 处理器核心的测试中,新的 GPT-6.2 Astra 模型在各代模型中取得了最佳结果。OpenAI 还在与 Synopsys 合作开发GPT-Synopsys,这是一个利用 Synopsys 的 EDA 工具让 AI 辅助芯片设计更广泛可及的模型。
Anthropic 也在芯片工作中使用 AI。其 Mythos 模型在 AMD MI355X GPU 上仅用三天就完成了某个模型的提示处理,而 Anthropic 称这项任务通常需要六到十二个月。该公司现在在四个芯片系列上运行 Claude,以优化每美元的成本和性能。