什么是Nunchaku?

Nunchaku是一个推理引擎,是针对麻省理工提出的一种,基于SVDQ的4位量化范式设计的。主要目的是牺牲少量精度,来减少对硬件(显卡)的需求,使用nunchaku的推理结果非常接近fp8精度的模型。

量化类型

fp4

用于50系列显卡/Blackwell 架构的显卡

int4

用于其他显卡(较老架构的显卡无法支持)

安装Nunchaku

节点安装

如果你还不清楚comfyui第三方节点如何安装,也可以先参考节点安装教程,传送门:安装常用第三方节点/插件

manager(管理器)安装

在管理器中搜索ComfyUI-nunchaku进行安装,如图所示:

管理器中安装nunchaku

git clone安装

克隆节点

git clone https://github.com/nunchaku-tech/ComfyUI-nunchaku.git

安装依赖

pip install -r requirements.txt

 

安装轮子

在使用Nunchaku之前,还需要安装nunchaku专用轮子。有两种方式可以进行安装,比较简单的方式是,使用作者提供的自动安装工作流进行安装,另一种方式是自己手动安装(若自动安装失败,就只能用这种方式进行安装)。

不过在安装前还应确保已经具备C编译环境,可以参考之前的教程。传送门:python和pip常用命令,comfyui环境报错、节点安装必备技能

自动安装

1、安装完成节点之后,在节点库中,找到双截棍Nunchaku)→双截棍轮子安装器Nunchaku Installer),如图所示:

轮子安装节点-英文版 轮子安装节点-中文版

隐藏内容
此内容需解锁查看
未解锁内容包含:约788个字符,和2张图像
  • 普通用户: 9.9牛币
  • VIP: 免费
  • SVIP: 免费
已有139人赞助并解锁

 

手动安装

手动下载最新版本轮子文件,需要注意选择对应的轮子版本和环境适配,手动安装轮子可以参照对应教程,传送门:comfyui常用轮子大全-whl文件下载安装

 

安装可能报错解决

隐藏内容
此内容需解锁查看
未解锁内容包含:约1020个字符
  • 普通用户: 9.9牛币
  • VIP: 免费
  • SVIP: 免费
已有139人赞助并解锁

 

 

使用Nunchaku

无论自动还是手动安装轮子,安装完成后都需重新启动comfyui后nunchaku才能生效正常使用。

nunchaku模型下载

在使用nunchaku节点时,需要下载对应的模型文件,作者为不同的模型量化了对应的svdq模型。50系显卡应使用fp4的量化模型,而其他显卡则使用int4的量化模型。

网盘下载:https://pan.quark.cn/s/e3c5f4574aa6

模型存放路径:ComfyUI\models\unetComfyUI\models\diffusion_models

更多下载渠道⬇⬇⬇

隐藏内容
此内容需解锁查看
未解锁内容包含:约2350个字符
  • 普通用户: 9.9牛币
  • VIP: 免费
  • SVIP: 免费
已有139人赞助并解锁

DiT Loader节点

最常用的节点是DiT Loader(DiT 加载器),用于unet(DiT)模型加载。分别对应Nunchaku FLUX DiT Loader与Nunchaku Qwen-Image DiT Loader两个节点。如图所示:

DiT Loader节点

后续作者增加更多基础模型支持也同理。

隐藏内容
此内容需解锁查看
未解锁内容包含:约648个字符,和1张图像
  • 普通用户: 9.9牛币
  • VIP: 免费
  • SVIP: 免费
已有139人赞助并解锁

LoRA Loader(加载器)节点

该节点用于lora加载,如图所示:

Nunchaku(双截棍)Flux模型Lora加载器节点

隐藏内容
此内容需解锁查看
未解锁内容包含:约172个字符
  • 普通用户: 9.9牛币
  • VIP: 免费
  • SVIP: 免费
已有139人赞助并解锁

Text Encoder Loader节点

该节点用于加载clip模型,如同所示:

Tetx Encoder Loader节点

隐藏内容
此内容需解锁查看
未解锁内容包含:约154个字符
  • 普通用户: 9.9牛币
  • VIP: 免费
  • SVIP: 免费
已有139人赞助并解锁

版本与模型节点支持情况

截止v1.0.1版,主要核心节点支持的模型有:

隐藏内容
此内容需解锁查看
未解锁内容包含:约154个字符
  • 普通用户: 9.9牛币
  • VIP: 免费
  • SVIP: 免费
已有139人赞助并解锁

 

云端gpu推荐

👉️👉️👉  推荐云端1

👉️👉️👉  推荐云端2

👉️👉️👉  在线comfyui(无需本地算力)

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。