蓝蓝仓库全球 AI 之窗
海外 来源:Hugging Face

Bringing Nunchaku 4-bit Diffusion Inference to Diffusers

Diffusers 支持 Nunchaku 4-bit 扩散模型推理

Diffusers 支持 Nunchaku 4-bit 扩散模型推理
图片:Hugging Face

要点导读

  • Nunchaku 4-bit 扩散推理
  • 集成进 Diffusers
  • 降低扩散模型推理开销

内容摘要

4-bit 量化大幅降低显存占用,让大型文生图模型可在消费级 GPU 上运行。

阅读原文

原文来源:Hugging Face(huggingface.co)。本页摘要与要点整理自公开来源,版权归原作者所有,完整内容请阅读原文。

链接失效 / 信息有误