蓝蓝仓库全球 AI 之窗
海外 来源:Hugging Face

Up to 3.2x Faster Inference with LFM2.5-DSpark

Liquid AI 发布 LFM2.5-DSpark 草稿模型,推理最高提速 3.2 倍

Liquid AI 发布 LFM2.5-DSpark 草稿模型,推理最高提速 3.2 倍
图片:蓝蓝仓库生成封面

要点导读

  • 推理速度最高提升 3.2 倍
  • 发布于 Hugging Face

内容摘要

Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 投机解码草稿模型,以极少显存增量换取大幅解码加速,且不改变输出质量。

阅读原文

原文来源:Hugging Face(huggingface.co)。本页摘要与要点整理自公开来源,版权归原作者所有,完整内容请阅读原文。

链接失效 / 信息有误