AI作图手把手教程系列:进阶篇 —— 使用ControlNet插件可控生成AI图

ControlNet引导生成图像的详细教程 controlnet引导stable diffusion生成图像使用教程,边缘检测、深度估计、涂鸦、分割等 阅读详情

本篇文章将介绍从**安装ControlNet和相关模型->使用ControlNet,**过程都非常简单,但效果非常惊人。当然,ControlNet模型和参数其实内容还是很多的,具体模型选择和参数调整我们将在下一篇文章介绍。在此,先带大家简单演练一下。

图1. 使用ControlNet中control_sd15_canny模型(模型下载和选择后续详细介绍)

img

图1. controlNet- canny

图2. 使用ControlNet中control_sd15_depth模型(模型下载和选择后续详细介绍)

img

图2. controlNet- depth

下面以canny模型为例:

一. 整体思路介绍

\1. 安装ControlNet插件和对应模型。

\2. 先选择一个整体模型。比如,我这里选择的仍旧是上一篇文章用到的中国风。

\3. 让ControlNet帮你提取线稿,也是用来控图的基础,这一步就像画师先描线一样。

\4. 调整ControlNet模型参数或选择不一样的模型,调整效果。

\5. 点击Generate生成图像,此时生成的图像与原稿有几分相似。

上述1 在本文第二部分介绍。2,3,4,5具体操作在本文第三部分介绍。

二. 安装ControlNet插件和对应模型

安装ControlNet插件前,需要安装stable_diffusion_webUI,如未安装可浏览

2.1 安装ControlNet插件

下图按照步骤依次点击Extensions->Avaliable->Load from:-> 查看下面列表中的相关扩展插件,点击“Install”。

img

图3. ControlNet插件安装

如果您有需要编辑姿势的需求,那么建议您往下翻一点,找到一个名为OpenPose Editor的插件,安装该插件。

img

图4. OpenPose插件安装

安装好后上述插件后,可以再Extensions-Installed下面看到上面两个插件。如下图所示:

img

图5

安装好后,我们打开stable_diffusion_webui,可以看到ControlNet

img

图6

2.2 安装模型(ControlNet)
  1. 打开链接:lllyasviel/ControlNet at main,点击Files and versions,可以看到很多.pth结尾的模型文件。点击其中一个进入到模型下载界面。

img

图7

\2. 进入模型下载界面,右击下图download(箭头标出),点击复制链接地址。

img

图8

\3. 跳转到终端,下载模型,代码如下:

⚠️ 下载后的模型要存在 sd-webui-controlnet/models,我这里的绝对路径是~/autodl-tmp/stable-diffusion-webui/extensions/

wget https://huggingface.co/lllyasviel/ControlNet/resolve/main/models/control_sd15_canny.pth

三. 使用ControlNet生成图

3.1 选择模型,上传图片

打开stable_diffusion_webui界面,选择这节课的图片风格(3Gupfeng3_v32Light.sagetensors)。点击ControlNet框右边的箭头(见图10),展开后上传我们上节课生成的图片。

img

图10

3.2 ControlNet提取线稿

然后按照图11的步骤先试试,注意一定要选中Enable,否则无效。最后,点击Preview annotator result,结果得到线稿。

img

图11

3.3 适当调整模型参数,最后生成点击Gernerate。

img

图12

参数介绍

img

Enable-启用

    • 勾选后,点击生成按钮时,将会实时通过ControlNet引导图像生成,否则不生效。

Invert Input Color

    • 将你用画笔涂抹的区域颜色进行反转。

RGB to BGR

    • 颜色通道反转

Low VRAM

    • 低显存模式如果你的显卡内存小于4GB,建议勾选此选项。

Guess Mode

    • 猜测(盲盒)模式,不需要任何正面与负面提示词,出图效果随机。
      备注:经本站测试,盲盒效果极佳,很有可能产生意想不到的惊喜效果!

Preprocessor

    • 预处理器,每个ControlNet的模型都有不同的功能。

Model

    • 该列表的模型选择,必须与预处理选项框内的模型名称一致。
    • 如果预处理与模型不致也可以出图,但效果无法预料,且并不理想。比如:Preprocessor选择canny,model选择control_sd15_canny,可以从名称辨别出。

Weight

    • 权重,代表使用ControlNet生成图片的权重占比影响。

Guidance strength(T)

    • 中文为引导强度,在理解此功能之前,我们应该先知道生成图片的步数功能,步数代表生成一张图片要刷新计算多少次。
    • 假如你设置的生成步数是20步,引导强度设置为1时,代表这20步中的每1步都会被ControlNet引导1次,个人认为引导强度数值为1,效果最佳。

Annotator resolution

    • Canny线稿分辨率:该数值越高,ControlNet区域所生成的的预处理图像越精细。

Canny low threshold

    • 生成的线稿最低阈值,也就是控制最低采样深度。

Canny high threshold

    • 生成的线稿最高阈值,也就是控制最高采样深度

Resize Mode

    • 调整图像大小模式:默认使用缩放至合适即可,将会自动适配图片。

Canvas Width与Canvas Height

    • 画布宽高:请注意这里的宽高,并不是指SD生成图片的图像宽高比。
    • 该宽高代表ControlNet引导图像时所使用的比例,假如你用SD生成的图片是1000_2000的分辨率,那么使用ControlNet引导图像时,对显存的消耗将是具大的;我们可以将该分辨率设置为500_1000,也就是缩放为你原本图像一半的分辨率尺寸去进行引导,有利于节省显存消耗。

Create blank canvas

    • 如果您之前使用过ControlNet功能,那么将会在ControlNet的图像区域留有历史图片,点击该按钮可以清空之前的历史,也就是创建一张空白的画布。

Preview annotator result

    • 点击该按钮可以预览注释器结果
    • 例如:如果您使用Canny作为预处理和模型,那么点击该按钮之后,可以看到一张通过Canny模型提取的边缘线图片。
    • 如何:如果您使用OpenPose作为预处理和模型,那么点击该按钮之后,可以看到一张通过OpenPose模型提取的人物骨骼图片。
    • 如果现在看不懂也没有关系,后续将会对该功能进行详细的补充。
关于AI绘画技术储备

学好 AI绘画 不论是就业还是做副业赚钱都不错,但要学会 AI绘画 还是要有一个学习规划。最后大家分享一份全套的 AI绘画 学习资料,给那些想学习 AI绘画 的小伙伴们一点帮助!

对于0基础小白入门:

如果你是零基础小白,想快速入门AI绘画是可以考虑的。

一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以找到适合自己的学习方案

包括:stable diffusion安装包、stable diffusion0基础入门全套PDF,视频学习教程。带你从零基础系统性的学好AI绘画!

需要的可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

1.stable diffusion安装包 (全套教程文末领取哈)

随着技术的迭代,目前 Stable Diffusion 已经能够生成非常艺术化的图片了,完全有赶超人类的架势,已经有不少工作被这类服务替代,比如制作一个 logo 图片,画一张虚拟老婆照片,画质堪比相机。

最新 Stable Diffusion 除了有win多个版本,就算说底端的显卡也能玩了哦!此外还带来了Mac版本,仅支持macOS 12.3或更高版本。

在这里插入图片描述

2.stable diffusion视频合集

我们在学习的时候,往往书籍代码难以理解,阅读困难,这时候视频教程教程是就很适合了,生动形象加上案例实战,一步步带你入门stable diffusion,科学有趣才能更方便的学习下去。

在这里插入图片描述

3.stable diffusion模型下载

stable diffusion往往一开始使用时图片等无法达到理想的生成效果,这时则需要通过使用大量训练数据,调整模型的超参数(如学习率、训练轮数、模型大小等),可以使得模型更好地适应数据集,并生成更加真实、准确、高质量的图像。

在这里插入图片描述

4.stable diffusion提示词

提示词是构建由文本到图像模型解释和理解的单词的过程。可以把它理解为你告诉 AI 模型要画什么而需要说的语言,整个SD学习过程中都离不开这本提示词手册。

在这里插入图片描述

5.AIGC视频教程合集

观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

在这里插入图片描述

实战案例

纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
在这里插入图片描述
这份完整版的学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

ICCV2023-ControlNet 可控图像生成 详细论文阅读笔记 Stable Diffusion ControlNet可以将空间条件控制添加到大型的预训练文生图扩散模型中。文生图对空间控制有限,仅通过文本提示精确地表达复杂的布局、姿势、形状和形式可能是困难的。本文希望通过让用户提供额外的图像来直接指定他们想要的图像组合,从而实现更细粒度的空间控制。 阅读详情

相关推荐

ROS Noetic + Realsense ROS 2.3.2 在鲁班猫4上的完整工作空间搭建与相机启动调试

本文详细介绍了在鲁班猫4(RK3588S)开发板上搭建ROS Noetic与Realsense ROS 2.3.2开发环境的完整流程,包括Realsense SDK安装、工作空间配置、D435i深度相机驱动调试等关键步骤,为机器人视觉系统开发提供实用指南。

weixin_33217202的博客 238

面向小白的ControlNet全面教学!如何安装和使用ControlNet?

ControlNet是一种强大的SD webui插件,它通过神经网络模型来实现对生成图像的精确控制。当然,它本身的应用远不止与此,ControlNet 在许多领域中都具有广泛的应用,包括艺术创作、图像修复、虚拟场景生成等等。在传统的图像生成任务中,我们通常使用提示词(prompt)来引导模型生成特定类型的图像。通过输入适当的提示词,我们可以约束模型生成与提示词相关的图像内容。然而,只使用提示词来引导模型生成图片仍然太过随机,而ControlNet则刚好提供了一种更精确的限制图像生成范围的方法。

weixin_55154866的博客 3464

STM32基于软件模拟IIC进行AHT21B温湿度采集

通过学习软件IIC来进行实操AHT21B采集温湿度。

Liu-FE的博客 3700

进阶--AI绘画里你必须要知道的controlnet模型使用方法

哈喽,各位小伙伴们大家好,有一段时间没有更新了,最近也是忙着搬家忙着置办家具等等,今天终于得空,于是乎连忙抽空做了这期关于controlnet的使用教程。因为最近我也是发现,controlnet对于AI绘画来说可真是太重要了,说白了,这个插件用好了,将会大大的提升我们的生产效率,因为它可以做到对线稿的上色以及照片转二次元人物等等功能,这些应用场景就非常广泛了。好了,废话不多说,直接上干货。

Chanyto的博客 7071

机器人视觉实战:用OpenCV搞定手眼标定(附完整C++代码)

本文详细介绍了使用OpenCV实现机器人视觉中的手眼标定技术,包括核心算法、工业场景优化及完整C++代码示例。通过解析坐标系转换问题,提供从数据采集到标定验证的全流程解决方案,帮助开发者在复杂工业环境中实现高精度机械臂与视觉系统的协同作业。

weixin_29306571的博客 484

【图论】系列(七)图论的中心性度量方法及重要性评价指标

图论中的中心性度量方法是用来衡量图中各个节点(或顶点)相对重要性的指标。

qq_30066733的博客 1078

ControlNet 1.1重磅发布,14个模型全部开源!

来源:https://github.com/lllyasviel/ControlNet-v1-1-nightlyControlNet 1.1 与 ControlNet 1.0 具有完全相同的体系结构,ControlNet 1.1 包括所有以前的模型,具有改进的稳健性和结果质量,并添加了几个新模型。

yanqianglifei的专栏 2万+

破解现代反爬虫:JS加密、OB混淆与CSS反爬的实战攻防分析

摘要: 随着反爬技术的升级,JS加密、OB混淆和CSS反爬成为主流防护手段,阻碍传统爬虫获取数据。本文解析了这些技术的工作原理,并提出破解策略:通过模拟浏览器(如Selenium、Puppeteer)执行动态JS,逆向混淆代码,以及利用开发者工具突破CSS隐藏。针对复杂防护,开发者需结合技术分析与工具应用,如API接口抓取、动态渲染破解等,以应对不断演进的反爬机制。未来,爬虫攻防将持续升级,需保持技术敏锐性。

专注于Python爬虫开发,分享爬虫技巧、项目实战与反爬经验,使用Scrapy、BeautifulSoup等工具,解决数据抓取难题。 1653

AI作图手把手教程系列(3):进阶篇 —— 使用ControlNet插件可控生成AI图

图12参数介绍Enable-启用勾选后,点击生成按钮时,将会实时通过ControlNet引导图像生成,否则不生效。将你用画笔涂抹的区域颜色进行反转。RGB to BGR颜色通道反转Low VRAM低显存模式如果你的显卡内存小于4GB,建议勾选此选项。Guess Mode猜测(盲盒)模式,不需要任何正面与负面提示词,出图效果随机。备注:经本站测试,盲盒效果极佳,很有可能产生意想不到的惊喜效果!预处理器,每个ControlNet的模型都有不同的功能。Model。

WANGJUNAIJIAO的博客 7737

扰动观察法MPPT控制器simulink仿真

最大功率点跟踪(MPPT)控制器对于光伏(PV)系统至关重要,因为它可以确保系统在所有操作条件下都能从光伏阵列中提取最大功率。扰动观察法(P&O)是一种广泛使用的MPPT算法,因为它简单且易于实现。本文介绍了P&O MPPT控制器的Simulink仿真,并分析了其性能。

qq_59747472的博客 318

QGraphicsView通过鼠标操作来绘制图元

在Visio和MindManager等类似的图元操作软件中,很多时候我们会通过鼠标操作来添加自定义的图元。这里就介绍一下如何在QT的图形视图框架中通过鼠标绘制来添加图元。

yang1fei2的博客 3577

逃AI作图手把手教程系列(3):进阶篇 —— 使用ControlNet插件可控生成AI图w

由于我的监控数据在阿里云的prometheus上面,并且阿里云也提供了一种查询方式,通过本地搭建的prometheus的remote_read功能,读取远端阿里云的数据。看起来数据很多,并且杂乱,并且cpu数据有个特性,会有激凸的特点,这对于数据收敛是不利的,所以,尝试把间隔时间调长一点,5分钟。print('cpu 数据个数为{} ,前10数据为{}'.format(len(cpu), cpu[:10]))再次分析数据,由于有3天的数据,尝试将3天的数据对比作图,看看有什么收获。

qRfEhZkO6的博客 467

Alist/Openlist 的 WebDAV 老是连不上?别再乱试了,这才是标准答案!(1Panel如何使用Alist/Openlist作为备份账号)

😫服务器硬盘告急,想用 Alist/Openlist 的 WebDAV 备份却屡屡失败?别慌!本文带你揭秘正确的连接地址和权限配置,手把手教你搞定 1Panel 备份设置,让你的网盘秒变备份仓库!

XiaoqiangClub的博客 5596

橇AI作图手把手教程系列(3):进阶篇 —— 使用ControlNet插件可控生成AI图t

然后是构建目标的类型,有的库使用CMAKE_CONFIGURATION_TYPES,有的库使用CMAKE_BUILD_TYPE,值设置成RelWithDebInfo表示Release版本,但是带调试信息。固扔废颓在之前使用CMake构建程序的脚本(CMake构建学习笔记-目录)中,大部分内容都有比较强的相似性,那么是不是可以这些相似的内容提取出来作为一个单独的脚本,在构建具体的程序的时候再去调用这个脚本呢?这里的--parallel的意思是并行构建,会采用多线程的方式构建项目,自动决定线程数。

ZCvavasvaa的博客 258

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

AI作图手把手教程系列(3):进阶篇 —— 使用ControlNet插件可控生成AI图版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。

ControlNet是一个强大的插件,它允许用户在生成图像时引入额外的控制条件,例如边缘检测、深度图、姿态估计等。通过这些控制条件,用户可以更精确地控制生成图像的构图、姿态、场景布局等,从而实现更符合预期的图像生成效果。通过使用ControlNet插件,可以实现更精确的图像生成控制,从而生成更符合预期的图像。无论是边缘检测、深度图还是姿态估计,ControlNet都为你提供了强大的工具来掌控AI作图的每一个细节。希望本篇教程能帮助你更好地掌握ControlNet的使用,创作出更多精彩的作品!

Z20140628的博客 1258

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

如何使用ControlNet插件使AI绘画更“可控”

感兴趣的小伙伴,赠送全套AIGC学习资料,包含AI绘画、AI人工智能等前沿科技教程和软件工具,具体看这里。AIGC技术的未来发展前景广阔,随着人工智能技术的不断发展,AIGC技术也将不断提高。未来,AIGC技术将在游戏和计算领域得到更广泛的应用,使游戏和计算系统具有更高效、更智能、更灵活的特性。同时,AIGC技术也将与人工智能技术紧密结合,在更多的领域得到广泛应用,对程序员来说影响至关重要。未来,AIGC技术将继续得到提高,同时也将与人工智能技术紧密结合,在更多的领域得到广泛应用。

白帽阿叁的博客 1690

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

【AI绘画】如何使用ControlNet插件使AI绘画更“可控”,新手入门必看,干活教程

夏至的元素有许多,如蓝天、白云、阳光、远山、湖水、飞鸟、蜻蜓、鱼、青蛙、知了、绿叶、向日葵、荷花、荷叶、柳丝、西瓜、饮料、汽水、阳伞、冰块、冰激凌等等。AI绘画在用于设计背景、元素、角色时,可以无限修改优化,效率高,成本低,可以在短时间内生成符合要求的图像。这里采用两个ControlNet来控制,ControlNet1控制远景,ControlNet0控制近景,先控制远景的画面渲染,再控制近景画面的渲染,让两部分在步数上有少量的重合,这样两种控制既不会相互干扰,画面也会一定程度上融合在一起。

A2421417624的博客 1639

Stable Diffusion中的ControlNet插件

ControlNet 的中文就是控制网,本质上是Stable Diffusion的一个扩展插件,在2023年2月份由斯坦福大学的研究人员开发出来的,能够使创作者轻松地控制AI图像和视频中的对象。它将根据边缘检测、草图处理或人体姿势等各种条件来控制图像生成。ControlNet可以概括为一种简单的稳定扩散微调方法。为什么需要ControlNet?

dzysunshine的博客 2566

【AI绘画】如何在PS里使用stable diffusion插件?

各位设计界的领军人物们,你们一定对PS(也就是大家熟知的Photoshop)不陌生吧。同样,对于AI领域的精英们,SD(stablediffusion)这款软件也应该是如雷贯耳。这两款软件,各自独立且功能强大,都是设计领域不可或缺的工具。特别是在今年AI技术的飞速发展下,我们很难在设计工作中完全忽视SD这款强大且高度可控的AI软件。与此同时,PS作为设计师的必备工具,其地位也是不言而喻的。然而,在AI作图这个领域,PS的表现似乎总是有些不尽如人意。尽管我们愿意为Adobe买单,购买了正版的PS Be

A2421417624的博客 2897

Stable Diffusion文生图-图生图-ControINet插件-线稿上色-生产全套表情包-3D Openpose-局部重绘-换衣服,换姿势人设三视图一键生成教程大全

柔和插画模式-进阶(Euler_a)柔和插画模式-景深(Euler)油画模式(LMS_Karras)高文本插画模式(DPM++_2S_a)高文本插画模式-景深(DPM++_2M)强文本插画模式-景深进阶(DPM++_2M_karras)强文本细节模式-进阶(DPM++_SDE_karras)### 一、提示词基本书写方式英文书写以词组作为单位的多数时候推荐将长句拆分词组与词组之间需要插入分隔符(一个英文里的半角逗号)可以换行,但每一行的行末最好也打上分隔符。

咕噜咕噜wy的博客 3549

可能是最强AI绘图插件!如何在PS中使用Stable Diffusion?

本篇 SD 插件的基础功能教程到此就结束了,当然该插件还有一些别的功能我没有介绍到,都是一些锦上添花的功能,大家自个尝试即可。可以看到,这个插件解决了 sd 操作体验差的痛点,解决了 PS 的 AI 绘图功能差的痛点,更解决了想白嫖的我们的痛点,正所谓,你好我好大家都好。

libaiup的博客 1915

竖图秒变横屏壁纸!AI绘画SD最强控制插件ControlNet教程,一键实现图片的扩展式填充真的太强了!

经常用PhotoShop作图的人都知道,自从去年PS2023beta版的发布,引入了AI绘画给广大创作者带来了不小的惊喜,最主要的就是它的“创成式填充”,通过现有图片可以进行扩展和延展,其强大的契合度合理性能够让图片以更多角度,任意的分辨率来展示,比如以下这些例子:

A2421417624的博客 1832
上一篇: Stable Diffusion 老照片修复+高清化+一键抠图教程_sd老照片修复
下一篇: 手把手教你用LoRA训练自己的Stable Diffusion模型_lora stable diffusion
壹只小小码农
博客等级 码龄5年 8105粉丝 1333原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值