Show HN:用约 25 行 SQL 自动推导出 FlashAttention 内核
有开发者在 Hacker News 展示了一个演示:用约 25 行只表达朴素 attention 的 SQL,自动推导出 FlashAttention 内核。其基础是三个可移植的 SQL 扩展:xarray-sql 把云端 PB 级数组数据集表示为关系表;ddx 在标准 SQL 上加入类似 JAX 的自动微分;einfold 是模块化查询规划器。原文信息有限,未给出性能数据。
推荐理由想了解用 SQL 写深度学习算子这条路的人可以看,25 行 SQL 换一个 FlashAttention 内核