当前位置: 首页 > news >正文

开始 ComfyUI 的 AI 绘图之旅-SDXL文生图和图生图(全网首发,官网都没有更新)(十四)

一、什么是Stable Diffusion?

Stable Diffusion是2022年发布的深度学习文本到图像生成模型。它主要用于根据文本的描述产生详细图像,尽管它也可以应用于其他任务,如内补绘制、外补绘制,以及在提示词指导下产生图生图的转变。

它是一种潜在扩散模型,由慕尼黑大学的CompVis研究团体开发的各种生成性人工神经网络之一。[3]它是由初创公司StabilityAI、CompVis与Runway合作开发,并得到EleutherAI和LAION的支持。截至2022年10月,StabilityAI筹集了1.01亿美元的资金。

Stable Diffusion的源代码和模型权重已分别公开发布在GitHub和Hugging Face,可以在大多数配备有适度GPU的电脑硬件上运行。而以前的专有文生图模型(如DALL-E和Midjourney)只能通过云计算服务访问。

1.Stable Diffusion 模型版本

来源:https://zh.wikipedia.org/zh-cn/Stable_Diffusion

版本号发行日期参数注释
1.1, 1.2, 1.3, 1.42022年8月都由CompVis发行。没有版本1.0。1.1引发1.2,而1.2引发1.3和1.4二者[33]。
1.52022年10月983M以1.2而非1.4的权重初始化。由RunwayML发行。
2.02022年11月从头在过滤后的数据集上重新训练[36]。
2.12022年12月以2.0的权重初始化。
XL 1.02023年7月3.5BXL 1.0基础模型有35亿个参数,使其比以前版本大了约3.5倍。[39]
XL Turbo2023年11月提取自XL 1.0而以更少扩散步骤运行。[41]
3.02024年2月(早期预览)800M到8B模型家族。
3.52024年10月2.5B到8B具有Large(80亿个参数)、Large Turbo(提取自SD 3.5)和Medium (25亿个参数)的模型家族。

2.SDXL最佳实践

SDXL 基础检查点可以像ComfyUI中的任何常规检查点一样使用。唯一需要注意的是,为了获得最佳性能,分辨率应设置为 1024x1024 或其他像素数量相同但宽高比不同的分辨率。例如:896x1152 或 1536x640 都是不错的分辨率。推荐分辨率如下:

  • 1024 x 1024
  • 1152 x 896
  • 896 x 1152
  • 1216 x 832
  • 832 x 1216
  • 1344 x 768
  • 768 x 1344
  • 1536 x 640
  • 640 x 1536

3.SDXL模型下载

安装aria2快速下载模型,几乎能将我家1000M的宽带跑满,每秒80~90M,接下来的介绍模型都会给出安装命令。

apt install aria2
aria2c https://huggingface.co/stabilityai/stable-diffusion-xl-base-1.0/resolve/main/sd_xl_base_1.0.safetensors?download=true -o SourceCode/ComfyUI/models/checkpoints/sd_xl_base_1.0.safetensors --auto-file-renaming=false --allow-overwrite=falsearia2c https://huggingface.co/stabilityai/stable-diffusion-xl-refiner-1.0/resolve/main/sd_xl_refiner_1.0.safetensors?download=true -o SourceCode/ComfyUI/models/checkpoints/sd_xl_refiner_1.0.safetensors --auto-file-renaming=false --allow-overwrite=falsearia2c https://huggingface.co/comfyanonymous/clip_vision_g/resolve/main/clip_vision_g.safetensors?download=true -o SourceCode/ComfyUI/models/clip_vision/clip_vision_g.safetensors --auto-file-renaming=false --allow-overwrite=falsearia2c https://huggingface.co/stabilityai/sdxl-turbo/resolve/main/sd_xl_turbo_1.0_fp16.safetensors -o SourceCode/ComfyUI/models/checkpoints/sd_xl_turbo_1.0_fp16.safetensors --auto-file-renaming=false --allow-overwrite=false

二、SDXL工作流介绍

要将基础功能与精炼器结合使用,您可以使用此工作流程。您可以下载此图像并加载,或将其拖到 ComfyUI 上获取。
在这里插入图片描述

1.SDXL简单版本

在这里插入图片描述
运行结果:
在这里插入图片描述

2.SDXL Refiner提示

您还可以像此工作流程一样为基础和refiner提供不同的提示。
在这里插入图片描述
运行结果:
在这里插入图片描述

3.SDXL修订零正

ReVision 与unCLIP非常相似,但其行为更侧重于概念层面。你可以将一张或多张图片传递给它,它会从这些图片中提取概念,并以此为灵感创建新的图片。

首先下载CLIP-G Vision并将其放入您的 ComfyUI/models/clip_vision/ 目录中。

以下是一个可拖拽或加载到 ComfyUI 的示例工作流。在此示例中,正向文本提示被清零,以便最终输出更贴近输入图像。
在这里插入图片描述
运行结果:
在这里插入图片描述

4.SDXL修订文本提示

如果您想使用文本提示,您可以使用这个示例:
在这里插入图片描述
运行结果:
在这里插入图片描述

5.SDXL Turbo

SDXL Turbo 是一个 SDXL 模型,可以一步生成一致的图像。您可以使用更多步骤来提高质量。正确的使用方法是使用新的 SDTurboScheduler 节点,但它也可以与常规调度程序配合使用。

这是下载官方 SDXL turbo 检查点的链接

以下是使用它的工作流程:
在这里插入图片描述
保存此图像,然后将其加载或拖放到 ComfyUI 上以获取工作流程。然后,我建议在界面中启用“额外选项”->“自动排队”。然后按一次“排队提示”,开始编写提示。
在这里插入图片描述


文章转载自:

http://OyRamEDh.jbctp.cn
http://pdPunwyz.jbctp.cn
http://71pUSs1x.jbctp.cn
http://IEXX5njb.jbctp.cn
http://bU1AvaQ6.jbctp.cn
http://3xUMIwZU.jbctp.cn
http://WcA8t3Ks.jbctp.cn
http://5X6hPFBp.jbctp.cn
http://AZnrWhe9.jbctp.cn
http://6s4tG4HQ.jbctp.cn
http://kMdb5jQX.jbctp.cn
http://EAkWfGdF.jbctp.cn
http://AAGycBwX.jbctp.cn
http://pFHKCP2d.jbctp.cn
http://I5mqN0gD.jbctp.cn
http://yJWYLn7u.jbctp.cn
http://mPAD123z.jbctp.cn
http://QWuI2fYf.jbctp.cn
http://IqVATC55.jbctp.cn
http://Zpxfd6VH.jbctp.cn
http://26qojLFN.jbctp.cn
http://dVKFnqgM.jbctp.cn
http://ctPtbuoO.jbctp.cn
http://pPf8I8cL.jbctp.cn
http://M425AFZs.jbctp.cn
http://vhJrbnze.jbctp.cn
http://TkdJIglj.jbctp.cn
http://W8jfGiCi.jbctp.cn
http://vNuAX8MP.jbctp.cn
http://dtjdtpMu.jbctp.cn
http://www.dtcms.com/a/383773.html

相关文章:

  • Java可用打印数组方法5中+常用变量转字符串方法
  • ssh远程连接服务器到vscode上“连接失败”
  • SpringBoot -原理篇
  • 设计模式——结构型模式
  • I.MX6ULL时钟(clock)与定时器(EPITGPT)
  • STM32_06_Systick定时器
  • 用 Java 学会 Protocol Buffers从 0 到 1 的完整实战
  • 237.删除链表中的节点
  • 【Vue2手录14】导航守卫
  • Qt如何读写xml文件,几种方式对比,读写xml的Demo工程
  • 子网划分专项训练-1,eNSP实验,vlan/dhcp,IP规划
  • 云原生改造实战:Spring Boot 应用的 Kubernetes 迁移全指南
  • 看门狗的驱动原理
  • [论文阅读] 人工智能 + 软件工程 | 大语言模型驱动的多来源漏洞影响库识别研究解析
  • 【前缀和+哈希表】P3131 [USACO16JAN] Subsequences Summing to Sevens S
  • 05.【Linux系统编程】进程(进程概念、进程状态(注意僵尸和孤儿)、进程优先级、进程切换和调度)
  • 【从零开始java学习|小结】记录学习和编程中的问题
  • 图像拼接案例,抠图案例
  • 分层解耦讲解
  • 安装Hadoop中遇到的一些问题和解决
  • 音视频-色域
  • 返利软件的分布式缓存架构:Redis集群在高并发场景下的优化策略
  • 如何让知识上传与查询更便捷
  • set/multiset容器
  • 区块链:搭建简单Fabric网络并调用智能合约
  • Keepalived的详细实操安装流程及其配置文件选项的详解
  • windows下,podman迁移镜像文件位置
  • 技能补全之正则表达式
  • Altium Designer(AD24)打开工程文件的几种方法
  • 26考研——内存管理(3)