#推测解码

全部资讯模型
清除条件
共 1 条
MarkTechPost09/26模型新模型发布海外

Liquid AI 发布 LFM2.5-VL-3B-DSpark 推测解码模型

Liquid AI 发布实验性推测解码草稿模型 LFM2.5-VL-3B-DSpark,为其 LFM2.5-VL-3B 视觉语言模型加速,输出结果不变。草稿模型增加约 2.8 亿参数,部署参数量提升 8.9%。官方称解码速度在 Apple 芯片上最高提升 3.13 倍,NVIDIA H100 上最高 2.66 倍。权重已在 Hugging Face 以 Safetensors 和 GGUF 格式发布,首日支持 SGLang、MLX-VLM 和 llama.cpp。采用 LFM Open License v1.0,年…

推荐理由本地跑 VLM 的可试,Apple 芯片解码最高快 3.13 倍,权重已上 Hugging Face