Redis 作者发布 ds4：本地跑 DeepSeek V4 等大模型
Redis 作者 antirez 发布 ds4，一个用 C 写的本地推理引擎，支持在高内存 Mac、CUDA 和 ROCm 机器上运行 DeepSeek V4 / V4.1 Flash、GLM 5.x 和 Qwen3.8 Flash Next，含文本与视觉模型。核心是对路由专家做非对称 2-bit 量化，保留关键共享路径精度，使 2840 亿参数的 DeepSeek V4 Flash 能在本地跑起来。KV cache 可存到 SSD 并按 prompt 哈希恢复，避免重启后全量重算。提供 CLI、兼容 OpenAI…
推荐理由想在本地跑 DeepSeek V4 或 GLM 5.x 的可以直接 clone 试