就在五个月前,当我们宣布 C 轮融资时,我写道需求正在加速。自那以后,使用量增长了两倍,我们的同比增速超过 15 倍。我们最近突破了 10 亿美元的年化收入运行率,且丝毫没有放缓的迹象。

软件现在能做到几年前还不可能做到的事情

很明显,AI 解锁了一整套全新的软件能力。如今存在着许多以前根本无法构建的出色应用。旧的技术栈并不太适合它们。它们需要不同的构建模块,以及一种全新的基础设施思维方式。

我们正在为大量这类应用提供支持。其中包括 TypeSafe AI 的 Jev,它是有史以来增长最快的产品之一。它曾在头三天内于 Modal 上处理了 1T tokens,而 TypeSafe 团队则专注于交付产品,而非管理基础设施。

而这正发生在许多不同的垂直领域

DoorDash 的 AI 平台团队使用 Modal 将公司各处的应用从实验推进到生产。Cognition、Ramp、Linear 和 Hebbia 正在构建各自领域内的专家级后台智能体。Runway 正在世界各个地区生成逼真的视频。Physical Intelligence、Generalist AI 和 1X 正在训练机器人。Chai Discovery 和 Achira 在 Modal 上运行药物发现,科学家们也在通过Claude Science进行同样的工作。

每一次变革都需要新的基础设施

软件领域的每一次变革,都会同时改变人们能构建什么,以及他们构建所需的基础设施。我从九十年代初就开始写软件,这并不是第一次阶跃式变化:我们经历过 Web、云、大数据、移动,以及其他几次变革。

云刚起步时,你突然不得不应对分布式系统、分片和配置管理。我们原有的工具都不是为此而建的,于是开发者创造了新工具:Docker、Kubernetes、Terraform 等等。

AI 带来的摩擦如今已经相当明显。GPU 稀缺,而模型又相当庞大、加载缓慢。LLM 现在会写代码了!而且这些代码必须在某个地方运行,与其他一切隔离开来。当然,你可以在旧技术栈上为所有这些考量进行构建,很多人也确实这么做了,但最终你会陷入 YAML 地狱和 GPU 采购炼狱。

所以我们深入了下去。我们抛弃了大部分现有的技术栈,从零开始构建了自己的文件系统、容器运行时、调度器和网络,建立在一个如今横跨 20 多个云平台的容量池之上。

开发者需要的是更好的构建模块

软件的美妙之处在于可组合性。如果你拥有正确的构建模块——通用、经过实战检验且可扩展——你就能构建出无限组合的东西。

Functions 是我们的第一个构建模块:你编写代码,Modal 来运行它。事实证明这非常有用,尤其是对于生成式 AI:使用扩散模型进行图像生成、Suno 上的音乐、使用 vLLM 和 SGLang 进行 LLM 推理,以及模型训练。

我们在 2023 年推出了 Sandboxes,当时我们注意到人们正在使用 LLM 来生成代码。Sandboxes 爆发式增长,三年后,它仅凭自身就成为一个年化收入 3 亿美元的产品。用例范围从后台智能体,到强化学习、vibecoding 平台,以及更多。我们已经启动了接近 30 亿个 sandbox,它们可以扩展到百万并发。

我们正在推出更多

软件能力的新世界需要一套新的构建模块,而我们才刚刚开始。

我们最近推出了多节点训练——一个装饰器就能为你提供一个完全 RDMA 连接的集群,无需容量承诺。我们正在向上层技术栈推进,并将在 RL 和后训练领域推出多款产品。

在推理方面,我们一直在推出Modal servers,这是 HTTP 服务器的更好解决方案,以及一些围绕 LLM 服务的非常酷的功能,例如Endpoint Candidates。

借助 Sandboxes,虚拟机现已正式可用。

这些只是未来众多发展中的一小部分。

我们筹集了更多资金

五年前我们创立 Modal 时,我无法想象今天在上面运行的绝大多数应用。同样难以想象人们两年后会创造出什么样的软件,但我确信的是,它将需要一套全新的构建模块。我们希望其中很多都能运行在 Modal 上。

为了继续打造下一步,我们完成了 7.5 亿美元的 D 轮融资,投后估值 157.5 亿美元。本轮由 Accel 领投。Kleiner Perkins 加入,我们所有现有投资方也都参与其中,包括 Menlo Ventures、General Catalyst、Redpoint、Lux Capital、Amplify Partners 和 Bain Capital Ventures。

我显然有偏见,但我想不出比现在更好的做软件的时候了。

如果你有兴趣加入我们在纽约、旧金山和斯德哥尔摩的 200 多人团队,请查看我们的开放职位。