
Stable Diffusion 3.5 FP8 模型在消费级显卡上的部署与性能优化
Stable Diffusion 3.5 Large 模型显存需求高,介绍利用 FP8 量化技术降低显存占用。通过 Hugging Face Diffusers 库加载量化模型,处理 T5 文本编码器,并在 RTX 3060/4060 等消费级显卡上测试。对比显示 FP8 版本显存占用显著降低,图像质量损失微小。此外提供 Shift 参数调整、GGUF 格式及 torch.compile 编译加速等进阶优化技巧,实现低成本本地部署。







