Stable Diffusion AI绘画软件插件:显存不够用的救星

发布时间:2024-07-05 11:13:18 浏览量:323次

Stable Diffusion是一款强大的AI绘画软件,利用GPU进行大量运算生成图片。但这个算法对显存需求大,对显存容量较小的设备来说会遇到困难,易导致绘画失败。

为了解决这一问题,pkuliyi2015(一位大佬)开发了MultiDiffusion with Tiled VAE这个项目。

该插件可以显著降低Stable Diffusion运算时的显存需求,即相当于连续绘制多张图再合并,使显存较小的设备也能轻松绘制更大的图像。

同时,MultiDiffusion with Tiled VAE甚至能够在参数不变的情况下将原图从1024*800放大到4096*3200。

如果你的显存较小,想绘制大图,不妨试试这个插件。

安装方法

在SD webui中点击“拓展”选项卡,找到“可用”下的【MultiDiffusion with Tiled VAE】进行安装,或按以下步骤操作:

①选择从URL下载

②粘贴链接:
https://github.com/pkuliyi2015/multidiffusion-upscaler-for-automatic1111.git

③点击安装,重启即可

功能介绍

以下内容摘自该项目的中文说明:
https://github.com/pkuliyi2015/multidiffusion-upscaler-for-automatic1111/blob/main/README_CN.md

区域提示控制

通过融合多个区域进行大型图像绘制。

注意:建议使用自定义区域填充整个画布。

以高分辨率绘制多个角色

  • 参数:
    • 模型:Anything V4.5, 高度 = 1920, 宽度 = 1280,方法 = Mixture of Diffusers
    • 全局提示语:masterpiece, best quality, highres, extremely clear 8k wallpaper, white room, sunlight
    • 全局负面提示语:ng_deepnegative_v1_75t EasyNegative

区域布局:(如图)

区域布局图

示例2:绘制全身人物

  • 参数:
    • 模型:Anything V4.5,宽度 = 1280,高度 = 1600,方法 = MultiDiffusion
    • 全局提示语:masterpiece, best quality, highres, extremely clear 8k wallpaper, beach, sea, forest
    • 全局负面提示语:ng_deepnegative_v1_75t EasyNegative

区域布局:(如图)

全身人物绘制示例

图生图放大功能

利用Tiled Diffusion进行图像放大或重绘。

示例:从1024*800放大到4096*3200,使用默认参数

放大前和4倍放大后效果如下图:

放大前图

4倍放大后:
在NVIDIA V100上使用4729 MB显存,32秒生成完毕。

4倍放大后图

技术部分

Tiled VAE

核心技术是估算GroupNorm参数以实现无缝生成。详细实现步骤如下:

  1. 图像分成小块,在编码器/解码器中各进行了11/32像素的扩张。
  2. 处理速度取决于模型,建议选择96或128的块大小。

Tiled Diffusion

潜在图像分成小块,UNet预测噪声后进行融合。

优缺点

优点:
在有限显存中绘制超大分辨率图像,无需后处理即可实现无缝输出。

缺点:
生成速度慢,不兼容梯度计算,可能破坏backward()或torch.autograd.grad()。

想学习更多关于AI绘画和图像处理的技能吗?欢迎了解火星时代教育,我们提供游戏设计、动画培训等课程,点击咨询了解更多。

热门课程推荐

热门资讯

请绑定手机号

x

同学您好!

您已成功报名0元试学活动,老师会在第一时间与您取得联系,请保持电话畅通!
确定