Bringing Nunchaku 4-bit Diffusion Inference to Diffusers
Diffusers 支持 Nunchaku 4-bit 扩散模型推理
要点导读
- Nunchaku 4-bit 扩散推理
- 集成进 Diffusers
- 降低扩散模型推理开销
内容摘要
4-bit 量化大幅降低显存占用,让大型文生图模型可在消费级 GPU 上运行。
阅读原文
原文来源:Hugging Face(huggingface.co)。本页摘要与要点整理自公开来源,版权归原作者所有,完整内容请阅读原文。