认识Flux模型

由Black Forest Labs(黑森林实验室)于2024年下半年发布的一款开源模型。

训练集分辨率:1024x1024px

文本编码器:采用OpenCLIP -ViT/L + Google/T5-v1_1-XXL;双CLIP组合

支持语言:英语

提示词形式:tag+短语形式/自然语言

生成类型:图像

UNet 参数数量:12B

优点:该模型在人像和写实方面有着非常优秀的表现,还能在图像上生成英文字符。

生态:Flux拥有非常繁荣的生态环境,对写实类图像支持非常友好,是目前最常用的写实绘画模型之一。

 

模型下载

隐藏内容
此内容需权限查看
包含约1101个字符
  • 普通用户: 15.9牛币
  • VIP: 免费
  • SVIP: 免费
已有121人赞助

网盘下载:https://pan.quark.cn/s/e9de2e6e6738

官方仓库:https://huggingface.co/black-forest-labs/FLUX.1-dev/tree/main

 

搭建Flux模型工作流

传统K采样器工作流

1、加载默认工作流

这和之前一样非常简单,操作流程:左上角菜单→工作流→浏览模板→图像生成。如图所示:

打开默认工作流

 

2、打开之后我们只需要对默认工作流做一点小小的改动,就可以变成Flux模型工作流,在checkpoint加载器中选择前面下载的checkpoint模型(如果不是请参照前文提到的,对模型加载部分进行简单的改造)。

3、输入正面提示词,负面无需输入。(即使输入也不会生效,这是Flux的特性),提示词参考:

cute anime girl with massive fluffy fennec ears and a big fluffy tail blonde messy long hair blue eyes wearing a maid outfit with a long black gold leaf pattern dress and a white apron mouth open placing a fancy black forest cake with candles on top of a dinner table of an old dark Victorian mansion lit by candlelight with a bright window to the foggy forest and very expensive stuff everywhere there are paintings on the walls

4、修改latent尺寸,Flux采用1024x1024px的分辨率进行训练,我们也可以先安按照这个尺寸进行修改。

5、完成以上修改,我们还差最后一步。将CFG值设置为1,然后找到Flux引导节点。操作步骤:节点库→高级→条件→Flux→Flux引导。如图所示:

添加Flux引导节点

 

6、将clip文本编码器的条件输出连接到该节点的条件输入,该节点的条件输出与K采样器的正面条件输入相连,引导值保持默认的3.5。如图所示:

将Flux引导节点应用到工作流中

 

这样我们就完成了一个非常基础的flux模型工作流,点击运行即可。完整的工作流如图所示:

完整的flux基础工作流

 

使用unet类的模型搭建工作流

隐藏内容
此内容需权限查看
包含约393个字符,和4张图像
  • 普通用户: 15.9牛币
  • VIP: 免费
  • SVIP: 免费
已有121人赞助

最终完整的工作流如图所示:

unet模型相关加载完整工作流

 

自定义采样器工作流

除了上述使用K采样器搭建flux模型工作流,还有一种比较常见的方式,是使用自定义采样器搭建。自定义采样器与K采样器非常相似,也分为自定义采样器节点和自定义采样器(高级)两个节点。

隐藏内容
此内容需权限查看
包含约395个字符,和3张图像
  • 普通用户: 15.9牛币
  • VIP: 免费
  • SVIP: 免费
已有121人赞助

 

Flux的一些特性和参数

提示词

flux支持较为复杂的自然语言提示词,同时对一些空间关系有一定的理解能力,例如前面、后面、上下左右等。

另外前文提到还支持在图像中显示文字,需要显示的文字需要使用英文双引号""括起来,例如:

Wallpapers with futuristic and sci-fi themes are perfect for use as desktop backgrounds. The main colors are grey and blue. It has a modern aesthetic style and integrates advanced technologies and artificial intelligence elements. The background creates a sense of high technology. The letters "6Bai.vip" are presented in a three-dimensional form, and the text edges are embedded with gold textures, giving a luxurious feeling. It reminds one of a scene from a high-tech sci-fi movie. Focusing the camera on the text creates a depth effect.

文字效果图:

6Bai.vip效果图

Flux引导节点

条件引导是Flux的一个新特性,它与cfg的作用类似,通常默认值为3.5。

隐藏内容
此内容需权限查看
包含约93个字符
  • 普通用户: 15.9牛币
  • VIP: 免费
  • SVIP: 免费
已有121人赞助

采样算法Flux节点

采样算法Flux节点

这个节点同样是flux模型引入的新特性,主要用是在模型中过引入偏移量参数,在扩散过程中动态修正噪声预测路径,优化图像生成轨迹。

隐藏内容
此内容需权限查看
包含约304个字符,和2张图像
  • 普通用户: 15.9牛币
  • VIP: 免费
  • SVIP: 免费
已有121人赞助

 

采样器与调度器

常用的采样器与调度器:

euler/euler a + normal‌/simple/beta/ddim_uniform

dpmpp_2m + sgm_uniform/simple

 

可用的采样器与调度器如下:

隐藏内容
此内容需权限查看
包含约463个字符
  • 普通用户: 15.9牛币
  • VIP: 免费
  • SVIP: 免费
已有121人赞助

 

 

低显存与加速

Nunchaku(双截棍)加速

传送门:nunchaku(双截棍)节点加速flux出图,大量节省显存。

 

GGUF降低显存

除了使用nunchaku之外,还可以使用gguf模型来降低对显存的依赖,GGUF是一种对整数位进行量化的一种量化模型,最低6G显存也能运行flux模型。

在使用之前需要安装一个额外的第三方节点ComfyUI-GGUF,来加载gguf模型。可以通过管理器来安装,或者通过git命令手动安装。还不了解第三方节点安装可以参照之前的内容。

git安装命令:

git clone https://github.com/city96/ComfyUI-GGUF.git

 

  • gguf模型下载

模型存放路径:ComfyUI\models\unet

隐藏内容
此内容需权限查看
包含约127个字符
  • 普通用户: 15.9牛币
  • VIP: 免费
  • SVIP: 免费
已有121人赞助

网盘下载:https://pan.quark.cn/s/130edec8f167

安装好节点之后找到Unet loader(GGUF)节点,替换掉unet节点即可,如图所示:

使用gguf加载节点

 

隐藏内容
此内容需权限查看
包含约265个字符
  • 普通用户: 15.9牛币
  • VIP: 免费
  • SVIP: 免费
已有121人赞助

 

Flux模型拓展

隐藏内容
此内容需权限查看
包含约511个字符
  • 普通用户: 15.9牛币
  • VIP: 免费
  • SVIP: 免费
已有121人赞助

使用云端GPU

对于一些较大模型,本地显卡配置跟不上,租用云端显卡即用即走,短期来说也是一个非常经济划算的。

云端注册链接: https://onethingai.com/invitation?code=r56mzRd3

(活动期间通过上方链接注册,赠送5元体验券,充值10元在得10元券)

 

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。