Stable Diffusion 快速上手与本地部署指南

环境依赖

Python, Conda

具体步骤

1. 下载模型权重文件

这个放在第一位是因为权重文件太大了，建议先下载起来，其他步骤在操作时，他可以在后台慢慢下载。

目前最新的是 sd-v1-4.ckpt，版本越高，训练的数据量越大，下载最新版本即可，4.27GB

去 huggingface 下载：

curl 下载：

curl https://www.googleapis.com/storage/v1/b/aai-blog-files/o/sd-v1-4.ckpt?alt=media > sd-v1-4.ckpt

2. 安装 python

安装 Python 环境，具体步骤略过。

3. 安装 Conda

Conda 是一个依赖包和环境管理工具，有 Anaconda 和 Miniconda 两个版本，这里使用 Miniconda 就可以。

可以官网下载对应的安装包，也可以命令行下载安装。

如果安装成功，可以通过 conda --version 查看版本，conda 准备好就可以进入下一步。

4. 拉取 Stable-Diffusion 代码库到本地

git clone https://github.com/CompVis/stable-diffusion.git
cd stable-diffusion/

5. 创建并激活 Conda 环境

a. 创建 ldm 环境

进入 Stable Diffusion 代码目录，使用 environment.yaml 文件，创建 Conda 环境。

conda env create -f environment.yaml

这个命令会根据 environment.yaml 文件，创建一个名字叫做 ldm 的虚拟环境，下载对应的依赖。这一步是很容易出现问题的地方，因为依赖比较多，安装时间比较长。可能会出现某些依赖安装时间特别长，最后失败的情况。

可能出现的问题：

1. 因为过程中会用到 pip 安装依赖，如果安装依赖时间过长，可以在 conda create 执行前，先配置 pip 的国内镜像。根据我实际尝试的情况，建议使用清华镜像，阿里云镜像也很慢。

pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple

2. 如果出现：Pip subprocess error: ERROR: Command errored out with exit status 128: git fetch -q … 的错误，则检查当前网络环境对 github 的访问是否通畅。
3. 安装失败尝试再次安装时，可能出现提示环境已存在。这时候可以删掉原来的 ldm 环境，再重试安装。

# 查看已存在环境
conda env list
# 先切换到 base 环境
conda activate base
# 删除 ldm
conda env remove --name ldm

b. 激活 ldm 环境

conda activate ldm

6. 生成脚本跑起来！

走完前面这些步骤，确认一下你的模型权重文件下载好了没有，--ckp 参数就指向这个文件。按照下面的参数，执行 txt2img.py 脚本。

python scripts/txt2img.py --prompt "rainbow ice cream cone" --plms --ckpt sd-v1-4.ckpt --skip_grid --n_samples 1

如果执行成功，你应该可以在 output 文件夹内找到生成出来的彩色甜筒🍦的图片。

可能出现的问题：

• PytorchStreamReader failed reading zip archive
• 模型文件下载不完整，重新下载即可

尝试把 --prompt 参数换成脑洞大开的各种描述词吧。其他参数详情可以参考 git 主页。

除了文字生成图，还有可以玩图生图。

一些能让图像更加有趣的提示词内容建议：

• 描述画面里想要存在的元素，物品，情绪
  • 森林，秋天，雨水，雾，苔藓，城堡，樱花，海浪，山，神庙
• 氛围，情绪
  • 快乐，阴郁，赛博朋克，霓虹，蒸汽朋克，原子朋克
• 画风
  • 现实，逼真，油画，铅笔画，概念艺术，超现实，魔法，幻想，中国山水
• 艺术家
  • 达芬奇，梵高 (油画), 莫兰，莫奈 (风景）,宫崎骏与吉卜力工作室
  • Artgerm（漫画精致五官）,Yuko Shimizu（插画）
• 润色和修饰 (一些神奇咒语)
  • 虚幻引擎，octane render（3D 渲染）, ArtStation, 8k, 4k, washed colors

Ultra realistic photo, princess peach in the mushroom kingdom, beautiful face, intricate, highly detailed, smooth, sharp focus, art by artgerm and greg rutkowski and alphonse mucha

更多玩法

显存不够 10G 怎么玩

可以使用显存占用优化的版本，牺牲推理速度，以获得比原始版本更少的显存占用。可以使用 2.4G 显存生成 512*512 尺寸图片。

为了减少显存使用进行的优化：

• 将 Stable Diffusion 模型分成四个部分，仅在需要时才发送到 GPU。计算完成后移回 CPU。
• 注意力计算是分部分完成的。

接入机器翻译，让他支持中文提示词

开启 web 服务，接入有道翻译 api，让他自动翻译输入的中文提示词，并执行图片生成。

说到中文支持，百度文心大模型发布的'ERNIE-ViLG 文生图'，最近也在开放测试，有更好的中文语境理解，更能理解你的中文梗。不过完整功能需要申请体验，参数较少，可玩性比较弱。

更有意思的图生图

除了单纯的文字作为输入生成图片，Stable Diffusion 还支持文字 + 图片作为输入，生成新的图片。就像最前面所展示过的，可以理解成你提供一个草图，ai 根据你的要求，帮你添加亿点点细节。

这是我尝试的，使用一个简单的线条图片，加上一段描述文字：'一只耐克鞋'，所生成的结果：

如果我把他的输出再次变为输入，重复渲染，可以得到更多不同的结果。甚至可以一秒换品牌…

Stability AI 的口号是'AI by the people, for the people'。AI 从群众中来，到群众中去。他可以单纯用来创作你天马行空的想象，也可以用作你文章的免费配图，能辅助你的工作，甚至能参赛获奖！赶快玩起来吧。