清除条件
共 1 条
Modal10/01资讯产品发布/更新海外

Modal Clusters 正式可用,单装饰器启动多节点 GPU 集群

Modal 宣布多节点 GPU 集群功能 Modal Clusters 正式 GA,通过单个装饰器 @modal.clustered 即可调用。节点间通过 InfiniBand verbs 通信,带宽最高 6.4 Tbps,自动为 PyTorch 和 NCCL 配置;集群可在请求后数秒内就绪,按秒计费。Modal 为此重写了调度层,新增 gang scheduling(一次性放置 N 个节点),并支持 RDMA 健康检查与自动修复。官方称这是市场上获取多节点集群最快的方式,且是唯一按 serverless 方式计费…

推荐理由需要多节点训练或推理的团队可评估:6.4 Tbps InfiniBand、秒级起集群、按秒计费,不用包小时或预留。