Flux 镜像部署：中低显存畅玩高质量 AI 绘画
最近在本地部署了一款基于 DiffSynth-Studio 构建的 AI 绘画镜像，体验下来非常惊艳。它集成了 majicflus_v1 模型，并通过 float8 量化技术大幅降低显存占用，真正实现了在 RTX 3060、4070 这类中低显存设备上流畅运行高质量文生图任务。
本文将从实际使用出发，带你一步步完成部署、生成测试，并结合 nvidia-smi 监控工具深入分析其资源表现，验证'低显存也能玩转高端模型'的可行性。
1. 为什么选择这款镜像？
当前主流的 AI 绘画模型（如 SDXL、FLUX.1）对显存要求越来越高，动辄需要 16GB 以上显存才能稳定运行。而大多数普通用户使用的仍是 8GB~12GB 显存的消费级显卡。
该镜像的核心优势在于：
- 集成官方优化版 majicflus_v1 模型
- 使用 float8 量化技术加载 DiT 主干，显著减少显存占用
- 支持 CPU 卸载（CPU Offload），进一步释放 GPU 压力
- 提供简洁直观的 Gradio 界面，无需代码即可操作
- 一键部署脚本，省去繁琐依赖安装过程
这意味着你可以在一台 RTX 3060（12GB）甚至更低配置的机器上，生成媲美高端显卡的高质量图像。
2. 快速部署：三步启动 Web 控制台
2.1 环境准备
确保你的系统满足以下条件：
- Python 3.10 或更高版本
- 已安装 CUDA 驱动（NVIDIA GPU）
- 至少 8GB 显存（建议 12GB 以上获得更好体验）
- 足够硬盘空间（模型约 10GB）
安装必要依赖包：
pip install diffsynth -U gradio modelscope torch
2.2 创建服务脚本
创建一个名为 web_app.py 的文件，粘贴如下完整代码：
import torch
import gradio as gr
from modelscope import snapshot_download
from diffsynth import ModelManager, FluxImagePipeline
def init_models():
# 模型已打包进镜像，无需手动下载
snapshot_download(model_id="MAILAND/majicflus_v1", allow_file_pattern="majicflus_v134.safetensors", cache_dir="models")
snapshot_download(model_id="black-forest-labs/FLUX.1-dev", allow_file_pattern=["ae.safetensors", "text_encoder/model.safetensors", "text_encoder_2/*"], cache_dir="models")
model_manager = ModelManager(torch_dtype=torch.bfloat16)
# 使用 float8 加载 DiT，大幅节省显存
model_manager.load_models(
[],
torch_dtype=torch.float8_e4m3fn,
device=
)
model_manager.load_models(
[
,
,
,
],
torch_dtype=torch.bfloat16,
device=
)
pipe = FluxImagePipeline.from_model_manager(model_manager, device=)
pipe.enable_cpu_offload()
pipe.dit.quantize()
pipe
pipe = init_models()
():
seed == -:
random
seed = random.randint(, )
image = pipe(prompt=prompt, seed=seed, num_inference_steps=(steps))
torch.cuda.empty_cache()
image
gr.Blocks(title=) demo:
gr.Markdown()
gr.Row():
gr.Column(scale=):
prompt_input = gr.Textbox(label=, placeholder=, lines=)
gr.Row():
seed_input = gr.Number(label=, value=, precision=)
steps_input = gr.Slider(label=, minimum=, maximum=, value=, step=)
btn = gr.Button(, variant=)
gr.Column(scale=):
output_image = gr.Image(label=)
btn.click(fn=generate_fn, inputs=[prompt_input, seed_input, steps_input], outputs=output_image)
__name__ == :
demo.launch(server_name=, server_port=)
