Up to 3.2x Faster Inference with LFM2.5-DSpark
Liquid AI 发布 LFM2.5-DSpark 草稿模型,推理最高提速 3.2 倍
要点导读
- 推理速度最高提升 3.2 倍
- 发布于 Hugging Face
内容摘要
Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 投机解码草稿模型,以极少显存增量换取大幅解码加速,且不改变输出质量。
阅读原文
原文来源:Hugging Face(huggingface.co)。本页摘要与要点整理自公开来源,版权归原作者所有,完整内容请阅读原文。