DeepSeek 发布 V4.1 Flash 与推理栈 DeepInfer
DeepSeek 发布 V4.1 Flash 模型,并首次公开内部推理栈 DeepInfer。据估算,DeepSeek 用该栈销售 token 的毛利率可达 90%,其效率可能明显高于 vLLM、SGLang 等现有开源工具。同期,中国商务部发布政策提案(尚未立法),要求前沿 AI 模型等技术的国际共享需事先审批,但开源技术将走自动审批通道。美国国土安全部则下令禁止 DeepSeek 及其模型作为联邦民用采购供应商。
推荐理由DeepInfer 是首个头部实验室公开的推理栈,做部署和推理成本优化的人可以直接研究