MiniMax 转发 MachGen 开源 Blackwell 注意力内核
MiniMax 官方账号转发 MachGen 的公告：后者为 NVIDIA Blackwell 开源了 VC Attention 变体内核，在 B200 上跑 MiniMax H3 这类模型时速度约为 BF16 FlashAttention 的 2 倍。MachGen 称在论文基础上做了多项改进，性能再提升 20% 以上，目前达到其生产环境所用稠密注意力内核的 30% 以内，且所需校准显著更少、无需微调。代码和博客已公开。MiniMax 表示 H3 的运动能力发布两个月后仍受关注，后续还有更多内容。
推荐理由做 Blackwell 推理优化可直接取用开源内核，B200 上约 2 倍于 BF16 FlashAttention