Update DiffusionModel_CN_book_Chapter9/README_chapter9.md

DiffusionModel_CN_book_Chapter9/README_chapter9.md

@@ -166,11 +166,131 @@ canny_image
 ```
 ![图片](./files/girlwithperl_canny.png)
 
+你可以看到，Canny Edge基本上就是一个边缘提取器，能够识别出图像中物体的边缘线条。
+接下来我们需要载入runwaylml/stable-diffusion-v1-5模型和能够处理Canny Edge的ControlNet模型。为了节约计算资源以及加快推理速度，我们使用半精度(torch.dtype)的方式来读取模型。
 
+```python
+from diffusers import StableDiffusionControlNetPipeline, ControlNetModel
+import torch
+
+controlnet = ControlNetModel.from_pretrained("lllyasviel/sd-controlnet-canny", torch_dtype=torch.float16)
+pipe = StableDiffusionControlNetPipeline.from_pretrained(
+    "runwayml/stable-diffusion-v1-5", controlnet=controlnet, torch_dtype=torch.float16
+)
+```
+
+这本次实验中，我们会尝试使用一种当前最快的扩散模型调度器：UniPCMultistepScheduler。这个调度器能够显著加快模型的推理速度，只需要迭代20次就能达到与之前的默认调度器迭代50次相同的效果！
+```python
+from diffusers import UniPCMultistepScheduler
+
+pipe.scheduler = UniPCMultistepScheduler.from_config(pipe.scheduler.config)
+```
 
+现在我们已经做好运行这个ControlNet管道的准备了。如同之前我们在通常使用的稳定扩散模型中做的那样，在ControlNet的运行流程中，我们仍然需要提供一些文字描述（prompt）来指导图像的生成过程。
+但是ControlNet将允许我们对生成图像的过程应用一些额外的控制条件，例如我们即将使用的Canny Edge来控制生成的图像中的物体的确切位置和边缘轮廓。
+我们将用接下来的代码来生成一些人物的肖像画，而这些人物的姿势将于这副17世纪的著名画作中的少女摆出相同的姿势。在ControlNet和Canny Edge的帮助下，我们只需要在文字描述中提到这些名人的名字就可以了!
 
+```python
+def image_grid(imgs, rows, cols):
+    assert len(imgs) == rows * cols
+
+    w, h = imgs[0].size
+    grid = Image.new("RGB", size=(cols * w, rows * h))
+    grid_w, grid_h = grid.size
+
+    for i, img in enumerate(imgs):
+        grid.paste(img, box=(i % cols * w, i // cols * h))
+    return grid
+
+prompt = ", best quality, extremely detailed"
+prompt = [t + prompt for t in ["Sandra Oh", "Kim Kardashian", "rihanna", "taylor swift"]]
+generator = [torch.Generator(device="cpu").manual_seed(2) for i in range(len(prompt))]
+
+output = pipe(
+    prompt,
+    canny_image,
+    negative_prompt=["monochrome, lowres, bad anatomy, worst quality, low quality"] * len(prompt),
+    generator=generator,
+    num_inference_steps=20,
+)
+
+image_grid(output.images, 2, 2)
+```
+![图片](./files/image_grid.png)
 
 
+接下来让我们尝试以下ControlNet的另一个有趣的应用方式：从一张图像中提取一个身体姿态，然后用它来生成具有完全相同姿态的另一张图像。
+在接下来的下一个例子中，我们将教会超级英雄如何使用[Open Pose ControlNet](https://huggingface.co/lllyasviel/sd-controlnet-openpose)做瑜伽!
+
+首先，让我们来找一些人们做瑜伽的图片:
+
+```python
+urls = "yoga1.jpeg", "yoga2.jpeg", "yoga3.jpeg", "yoga4.jpeg"
+imgs = [
+    load_image("https://hf.co/datasets/YiYiXu/controlnet-testing/resolve/main/" + url) 
+    for url in urls
+]
+
+image_grid(imgs, 2, 2)
+```
+![图片](./files/yoga.png)
+
+然后我们将使用controlnet_aux中的OpenPose预处理器来提取瑜伽的身体姿势。
+```python
+from controlnet_aux import OpenposeDetector
+
+model = OpenposeDetector.from_pretrained("lllyasviel/ControlNet")
+
+poses = [model(img) for img in imgs]
+image_grid(poses, 2, 2)
+```
+
+![图片](./files/yogapose.png)
+
+最后就是见证奇迹的时刻！我们将使用 Open Pose ControlNet来生成一些正在做瑜伽的超级英雄的图像。
+
+controlnet = ControlNetModel.from_pretrained(
+    "fusing/stable-diffusion-v1-5-controlnet-openpose", torch_dtype=torch.float16
+)
+
+```python
+model_id = "runwayml/stable-diffusion-v1-5"
+pipe = StableDiffusionControlNetPipeline.from_pretrained(
+    model_id,
+    controlnet=controlnet,
+    torch_dtype=torch.float16,
+)
+pipe.scheduler = UniPCMultistepScheduler.from_config(pipe.scheduler.config)
+pipe.enable_model_cpu_offload()
+pipe.enable_xformers_memory_efficient_attention()
+
+generator = [torch.Generator(device="cpu").manual_seed(2) for i in range(4)]
+prompt = "super-hero character, best quality, extremely detailed"
+output = pipe(
+    [prompt] * 4,
+    poses,
+    negative_prompt=["monochrome, lowres, bad anatomy, worst quality, low quality"] * 4,
+    generator=generator,
+    num_inference_steps=20,
+)
+image_grid(output.images, 2, 2)
+```
+![图片](./files/superhero.png)
+
+#### 小结：
+
+在上面的例子中, 我们探索了两种[`StableDiffusionControlNetPipeline`](https://huggingface.co/docs/diffusers/main/en/api/pipelines/stable_diffusion/controlnet) 的使用方式，
+展示了ControlNet和扩散模型相结合的强大能力。
+这里的两个例子只是ControlNet能够提供的额外图像控制条件中的一小部分。你可以在以下这些模型的文档页面寻找更多有趣的使用ControlNet的方式:
+
+* lllyasviel/sd-controlnet-depth：https://huggingface.co/lllyasviel/sd-controlnet-depth
+* lllyasviel/sd-controlnet-hed：https://huggingface.co/lllyasviel/sd-controlnet-hed
+* lllyasviel/sd-controlnet-normal：https://huggingface.co/lllyasviel/sd-controlnet-normal
+* lllyasviel/sd-controlnet-scribble：https://huggingface.co/lllyasviel/sd-controlnet-scribble
+* lllyasviel/sd-controlnet-seg：https://huggingface.co/lllyasviel/sd-controlnet-scribble
+* lllyasviel/sd-controlnet-openpose：https://huggingface.co/lllyasviel/sd-controlnet-openpose
+* lllyasviel/sd-controlnet-mlsd：https://huggingface.co/lllyasviel/sd-controlnet-mlsd
+* lllyasviel/sd-controlnet-mlsd：https://huggingface.co/lllyasviel/sd-controlnet-canny