NVIDIA 发布了 Kumo Tabular，这是一个用于分类和回归的表格基础模型（TFM）新系列。如果你关注过 TabPFN 或 TabICL，这套设定会看起来很熟悉。该模型将带标签的行作为上下文，在一次前向传播中预测新行。无需训练，无需超参数调优，也无需特征工程。
Kumo Tabular 分为 Small、Medium 和 Large 三个版本，参数量大约从 28M 到 215M。它通过 NVIDIA 的开源结构化数据模型（SDM）库运行。
它可以部署吗？可以。权重以 OpenMDW-1.1 许可证发布，允许商业使用。SDM 代码采用 Apache-2.0 许可证，需要 Python 3.11+ 和 PyTorch 2.7+，示例面向 CUDA GPU。
SDM 库增加了什么
SDM 是一个 GPU 原生的库，用于结构化数据基础模型和预处理。除了 Kumo Tabular，它还包含 TabICLv2、Google 的 TabFM，以及用于多表数据的 KumoRelational。所有模型共享一个基于 TableTensor 容器的上下文学习接口。该库还处理预处理、集成和多类别预测。
Kumo Tabular 如何工作
Kumo Tabular 是一个围绕表格结构构建的 Transformer。它使用了列注意力、行注意力和上下文注意力，这些在 TabICL 和 TabPFN 中已有介绍。其流程分为 3 个阶段：
单元格嵌入：数值和类别值经过学习到的傅里叶特征，每种类型有单独的权重。缺失值无需插补。
行嵌入：列注意力使用诱导自注意力，因此成本随行数线性增长。行注意力配合旋转位置，学习特征交互。4 个可学习的 [CLS] token 压缩每一行。
上下文学习：最后一个 Transformer 在行嵌入上运行。上下文行彼此关注，而查询行只关注上下文行。
由于上下文从不见到查询，其键和值只计算一次并重复使用。输出头输出类别概率，或回归的 999 个分位数。这给出了一个点预测以及一个不确定性估计。
还有一个细节在大规模场景下很重要。随着 key 数量增长，Softmax 注意力会被稀释。Kumo Tabular 会按一个随 key 数量对数增长的 temperature 来缩放每个 query。该系数按每个注意力头学习，因此注意力在更大的表格上仍能保持锐利。
仅用人工表格训练
Kumo Tabular 完全在从结构因果模型（SCM）采样的人工合成表格上预训练。随机因果图通过线性映射、小型神经网络、树或高斯过程连接隐藏变量。生成器还会注入混乱的真实世界模式：缺失值、高基数类别、重尾目标，以及相互冲突的重复行。
训练分 3 个阶段进行，类似 TabICLv2。上下文从 1,024 行增长到 60,000 行，最多 100 列。Small、Medium 和 Large 分别见过约 35M、71M 和 137M 张人工表格。分类和回归作为独立模型训练。NVIDIA 表示训练配方和数据生成器将很快发布。
基准测试
在默认设置下，Kumo Tabular 在 TabArena 上以 1950 的 Elo 总分排名第一。NVIDIA 团队报告称，它在单张 RTX 6000 Pro 上比 LimiX-2 快 17 倍。全部 3 个规模都位于准确率和推理时间的帕累托前沿上。
BeyondArena：第一名，Elo 为 1418，Improvability 分数为 7.78%。
TALENT：总体排名最高，平均排名分别为 6.67（准确率）、3.98（对数损失）和 4.22（RMSE）。
ScoringBench：Large 和 Medium 在平均排名中位列第一和第二。
Kumo Tabular 与其最接近的竞品对比
特性Kumo TabularTabICLv2TabPFN-3LimiX-2TabFM开发者NVIDIAInria SODAPrior LabsStable AIGoogle Research参数量约 28M 至 215M（3 个规模）27.55M（分类）、28.54M（回归）文档中未列出400M约 1.64B任务分类、回归分类、回归分类、回归分类、回归、插补分类、回归每次处理的原生类别数10（更多时用 ECOC）10（更多时用分层）160未指定10（硬限制）权重许可证OpenMDW-1.1BSD-3-ClauseTABPFN-3 License v1.0StableAI LimiX Non-CommercialTabFM Non-Commercial v1.0权重可商用YesYes需付费许可证NoNo可在 NVIDIA SDM 中运行YesYesNoNoYes
来源：NVIDIA 博客、SDM 模型文档、Prior Labs 文档、LimiX GitHub、TabICLv2 论文。检查于 2026 年 9 月 30 日。
许可证这一行才是真正的区别所在。TabPFN-3、LimiX-2 和 TabFM 的权重带有非商业条款。Kumo Tabular 和 TabICLv2 是宽松许可的选项，而 Kumo Tabular 在 NVIDIA 报告的基准测试中领先。
快速上手
安装该库，并按照模型卡将 DataFrame 传入 TableTensor：
复制代码已复制使用其他浏览器
# pip install structured-data-models
from sklearn.datasets import load_breast_cancer
import sdm
df = load_breast_cancer(as_frame=True).frame
table = sdm.TableTensor.from_pandas(
df=df,
stypes=sdm.infer_stypes(df, overrides={"target": "categorical"}),
device="cuda",
)
model = sdm.models.KumoTabular(task="classification", device="cuda")
probs = model(
x_context=table[:300].drop_columns("target"),
y_context=table[:300, "target"],
x_query=table[300:].drop_columns("target"),
num_estimators=8,
)
size 参数接受 "small"、"medium" 或 "large"，默认为 large。
关键要点
NVIDIA 的 Kumo Tabular 在 1 次前向传播中预测新的表格行，无需训练。
3 种规模从约 28M 到 215M 参数不等，仅用合成表格进行预训练。
NVIDIA 报告在 TabArena（Elo 1950）、BeyondArena、TALENT 和 ScoringBench 上排名第一。
OpenMDW-1.1 权重允许商业使用，不同于 TabPFN-3、LimiX-2 和 TabFM。
它通过 NVIDIA 的 GPU 原生 SDM 库运行，与 TabICLv2、TabFM 和 KumoRelational 并列。
在 HF 上查看模型、GitHub 仓库和技术细节。所有功劳归于该项目的研究人员。另外，欢迎在 Twitter 上关注我们，别忘了加入我们 150k+ 的 ML SubReddit 并订阅我们的 Newsletter。等等！你在 telegram 上吗？现在你也可以在 telegram 上加入我们了。
需要与我们合作推广你的 GitHub 仓库或 Hugging Face 页面或产品发布或网络研讨会等？联系我们
文章《NVIDIA 发布 Kumo Tabular：开放表格基础模型，可在单次前向传播中预测新行》首发于 MarkTechPost。