当前位置: 首页 > news >正文

开始 ComfyUI 的 AI 绘图之旅-LoRA(五)

本篇将引导了解并完成单个 LoRA 模型的使用及同时应用多个 LoRA 模型

一、LoRA

LoRA 模型​(Low-Rank Adaptation) 是一种用于微调大型生成模型(如 Stable Diffusion)的高效技术。
它通过在预训练模型的基础上引入可训练的低秩矩阵,仅调整部分参数,而非重新训练整个模型,从而以较低的计算成本实现特定任务的优化,相对于类似 SD1.5 这样的大模型,LoRA 模型更小,更容易训练。
在这里插入图片描述

上面的图片对比了同样参数下 dreamshaper_8 直接生成和使用 blindbox_V1Mix LoRA 模型生成的图片对比,我们可以看到通过使用 LoRA 模型,可以在不调整基础模型的情况下,生成更符合我们需求的图片。

我们将演示如何使用 LoRA 的示例。所有 LoRA 变体:Lycoris, loha, lokr, locon, 等… 都是以这种方式使用。

在本示例中,我们将完成以下内容来学习ComfyUI 中加载并使用 LoRA 模型,将涉及以下内容:

  1. 安装 LoRA 模型
  2. 使用 LoRA 模型生成图片
  3. Load LoRA 节点的简单介绍

1. 相关模型安装

请下载 dreamshaper_8.safetensors 并保存至 ComfyUI/models/checkpoints 目录

请下载 blindbox_V1Mix.safetensors 并保存至 ComfyUI/models/loras 目录

请下载 MoXinV1.safetensors 并保存至 ComfyUI/models/loras 目录

安装aria2快速下载模型,几乎能将我家1000M的宽带跑满,每秒80~90M,接下来的介绍模型都会给出安装命令。

apt install aria2
aria2c https://civitai.com/api/download/models/128713?type=Model&format=SafeTensor&size=pruned&fp=fp16 -o SourceCode/ComfyUI/models/checkpoints/dreamshaper_8.safetensors auto-file-renaming=false --allow-overwrite=falsearia2c https://civitai.com/api/download/models/32988?type=Model&format=SafeTensor&size=full&fp=fp16 -o SourceCode/ComfyUI/models/loras/blindbox_v1_mix.safetensors auto-file-renaming=false --allow-overwrite=falsearia2c https://civitai.com/api/download/models/14856?type=Model&format=SafeTensor&size=full&fp=fp16 -o SourceCode/ComfyUI/models/loras/MoXinV1.safetensors auto-file-renaming=false --allow-overwrite=false

小技巧:你要是打不开https://huggingface.co,可以将其换成为https://hf-mirror.com/试一试

2. LoRA 工作流文件

请下载下面的工作流图片,并拖入 ComfyUI 以加载工作流

Metadata 中包含工作流 json 的图片可直接拖入 ComfyUI 或使用菜单 `Workflows` -> `Open(ctrl+o)` 来加载对应的工作流。

3. 按步骤完成工作流的运行

请参照下图步骤,来确保对应的工作流可以正常运行

在这里插入图片描述

  1. 确保Load Checkpoint 加载了 dreamshaper_8.safetensors
  2. 确保Load LoRA 加载了 blindbox_V1Mix.safetensors
  3. 点击 Queue 按钮,或者使用快捷键 Ctrl(cmd) + Enter(回车) 来执行图片的生成

4. Load LoRA 节点介绍

在这里插入图片描述

位于ComfyUI\models\loras 的模型会被 ComfyUI 检测到,并在这个节点中加载

4.1 输入类型

参数名称作用
model连接基础模型
clip连接 CLIP 模型
lora_name选择要加载使用的 LoRA 模型
strength_model影响 LoRA 对 模型权重(model)的影响程度,数值越大 LoRA 风格越强
strength_clip影响 LoRA 对 CLIP 词嵌入(clip)的影响程度

4.2 输出类型

参数名称作用
model输出应用了 LoRA 调整的模型
clip输出应用了 LoRA 调整的 CLIP 模型

该节点支持链式连接,可以将多个Load LoRA 节点串联来应用多个 LoRA 模型,具体请参考ComfyUI 应用多个 LoRA 示例

在这里插入图片描述

5.开始你的尝试

  1. 试着修改提示词,或者调整 Load LoRA 节点的不同参数,比如 strength_model ,来观察生成图片的变化,熟悉对应节点。
  2. 访问 CivitAI 网站,下载其它风格的 LoRA 模型,尝试使用。

在这里插入图片描述

二、多个 LoRA

本篇将引导你了解并完成在 ComfyUI 中同时应用多个 LoRA 模型

在 ComfyUI LoRA 使用示例 中,我们介绍了如何在 ComfyUI 中加载并使用 LoRA 模型,也提及了该节点支持链式连接。

在这里插入图片描述

在本篇中我们将使用链式连接Load LoRA节点的方式来同时使用多个 LoRA 模型,在本示例中,我们将使用 blindbox_V1Mix 和 MoXinV1 两个 LoRA 模型。

下图是这两个 LoRA 模型在同样参数下单独使用的效果

在这里插入图片描述

但通过多个 LoRA 模型链式连接后,我们可以在最终的效果中看到两种风格融合在一起的效果

在这里插入图片描述

1.相关模型安装(上面安装完了)

请下载 dreamshaper_8.safetensors 并保存至 ComfyUI/models/checkpoints 目录

请下载 blindbox_V1Mix.safetensors 并保存至 ComfyUI/models/loras 目录

请下载 MoXinV1.safetensors 并保存至 ComfyUI/models/loras 目录

2.多 LoRA 模型应用示例工作流

请下载下面的工作流图片,并拖入 ComfyUI 以加载工作流

Metadata 中包含工作流 json 的图片可直接拖入 ComfyUI 或使用菜单 `Workflows` -> `Open(ctrl+o)` 来加载对应的工作流。

3.按步骤完成工作流的运行

请参照下图步骤完成,确保工作流能够正常运行

在这里插入图片描述

  1. 确保Load Checkpoint可以加载 dreamshaper_8.safetensors
  2. 确保Load LoRA可以加载 blindbox_V1Mix.safetensors
  3. 确保Load LoRA可以加载 MoXinV1.safetensors
  4. 点击 Queue 按钮,或者使用快捷键 Ctrl(cmd) + Enter(回车) 来执行图片的生成

4.开始你的尝试

  1. 试着调整两个 Load LoRAstrength_model 参数,来修改不同 LoRA 模型对最终生成图片的影响
  2. 访问 CivitAI 网站,下载其它风格的 LoRA 模型,组合出你满意的效果
    在这里插入图片描述

文章转载自:

http://zV8qKBXG.mLwpr.cn
http://7h3PrG2G.mLwpr.cn
http://95Yl2grm.mLwpr.cn
http://LhmKFXus.mLwpr.cn
http://nLbRwSFb.mLwpr.cn
http://eXY4ndCl.mLwpr.cn
http://AS0ZxFN3.mLwpr.cn
http://YexQXsDK.mLwpr.cn
http://TIDxgFKZ.mLwpr.cn
http://DClimrRS.mLwpr.cn
http://w3ebnyiS.mLwpr.cn
http://xoCHezyl.mLwpr.cn
http://xHpQtkzO.mLwpr.cn
http://pWLTEl07.mLwpr.cn
http://6CEI5uKN.mLwpr.cn
http://s6KbBH9M.mLwpr.cn
http://xJRjU4r5.mLwpr.cn
http://3HJTiDFz.mLwpr.cn
http://y2YaTaHy.mLwpr.cn
http://Vs72xqLu.mLwpr.cn
http://uncEQ6Jc.mLwpr.cn
http://oP10VVDI.mLwpr.cn
http://2UT8PJVY.mLwpr.cn
http://OMxxmfhZ.mLwpr.cn
http://kTbesOFe.mLwpr.cn
http://tVnr27IW.mLwpr.cn
http://5i1RbZTA.mLwpr.cn
http://yj2On1an.mLwpr.cn
http://o954tOXT.mLwpr.cn
http://7ZGM0knD.mLwpr.cn
http://www.dtcms.com/a/375845.html

相关文章:

  • 字符函数和字符串函数 last part
  • win安装多个mysql,免安装mysql
  • 开源项目_强化学习股票预测
  • Shell 脚本基础:从语法到实战全解析
  • Nginx如何部署HTTP/3
  • 解一元三次方程
  • A股大盘数据-20250909分析
  • 05-Redis 命令行客户端(redis-cli)实操指南:从连接到返回值解析
  • shell函数+数组+运算+符号+交互
  • 群晖Lucky套件高级玩法-——更新证书同步更新群晖自带证书
  • 照明控制设备工程量计算 -图形识别超方便
  • Matlab通过FFT快速傅里叶变换提取频率
  • iis 高可用
  • 有趣的数学 贝塞尔曲线和毕加索
  • 基于STM32的智能宠物小屋设计
  • STM32之RS485与ModBus详解
  • DCDC输出
  • GitHub 项目提交完整流程(含常见问题与解决办法)
  • Day39 SQLite数据库操作与文本数据导入
  • python常用命令
  • 广东省省考备考(第九十五天9.9)——言语、资料分析、判断推理(强化训练)
  • MySQL问题8
  • 【AI】Jupyterlab中关于TensorFlow版本问题
  • Java 运行时异常与编译时异常以及异常是否会对数据库造成影响?
  • CosyVoice2简介
  • 新机快速搭建java开发环境过程记录
  • std::enable_shared_from_this
  • Spring Boot--Bean的扫描和注册
  • Pytorch基础入门3
  • ARM-指令集全解析:从基础到高阶应用