什么是Nunchaku?

Nunchaku是一个推理引擎,是针对麻省理工提出的一种,基于SVDQ的4位量化范式设计的。主要目的是牺牲少量精度,来减少对硬件(显卡)的需求,使用nunchaku的推理结果非常接近fp8精度的模型。

量化类型

fp4

用于50系列显卡/Blackwell 架构的显卡

int4

用于其他显卡(较老架构的显卡无法支持)

安装Nunchaku

节点安装

如果你还不清楚comfyui第三方节点如何安装,也可以先参考节点安装教程,传送门:安装常用第三方节点/插件

manager(管理器)安装

在管理器中搜索ComfyUI-nunchaku进行安装,如图所示:

管理器中安装nunchaku

git clone安装

克隆节点

git clone https://github.com/nunchaku-tech/ComfyUI-nunchaku.git

安装依赖

pip install -r requirements.txt

 

安装轮子

在使用Nunchaku之前,还需要安装nunchaku专用轮子。有两种方式可以进行安装,比较简单的方式是,使用作者提供的自动安装工作流进行安装,另一种方式是自己手动安装(若自动安装失败,就只能用这种方式进行安装)。

不过在安装前还应确保已经具备C编译环境,可以参考之前的教程。传送门:python和pip常用命令,comfyui环境报错、节点安装必备技能

自动安装

1、安装完成节点之后,在节点库中,找到双截棍Nunchaku)→双截棍轮子安装器Nunchaku Installer),如图所示:

轮子安装节点-英文版 轮子安装节点-中文版

2、新建一个空白工作流,将双截棍轮子安装器Nunchaku Installer)节点拖拽到工作流中,然后找到工具中,预览任意节点。把轮子安装器的输出状态,与预览任意节点相连,然后执行工作流即可开始安装。如图所示:

通过工作流安装轮子

 

3、在预览节点中显示Success则表示安装成功,并且在后方会显示已经安装的对应轮子信息。如图所示:

安装执行结果

  • 参数说明
隐藏内容
此内容需解锁查看
未解锁内容包含:约616个字符
  • 普通用户: 9.9牛币
  • VIP: 免费
  • SVIP: 免费
已有137人赞助并解锁

 

手动安装

手动下载最新版本轮子文件,需要注意选择对应的轮子版本和环境适配,手动安装轮子可以参照对应教程,传送门:comfyui常用轮子大全-whl文件下载安装

 

安装可能报错解决

隐藏内容
此内容需解锁查看
未解锁内容包含:约1020个字符
  • 普通用户: 9.9牛币
  • VIP: 免费
  • SVIP: 免费
已有137人赞助并解锁

 

 

使用Nunchaku

无论自动还是手动安装轮子,安装完成后都需重新启动comfyui后nunchaku才能生效正常使用。

nunchaku模型下载

在使用nunchaku节点时,需要下载对应的模型文件,作者为不同的模型量化了对应的svdq模型。50系显卡应使用fp4的量化模型,而其他显卡则使用int4的量化模型。

网盘下载:https://pan.quark.cn/s/e3c5f4574aa6

模型存放路径:ComfyUI\models\unetComfyUI\models\diffusion_models

更多下载渠道⬇⬇⬇

隐藏内容
此内容需解锁查看
未解锁内容包含:约2350个字符
  • 普通用户: 9.9牛币
  • VIP: 免费
  • SVIP: 免费
已有137人赞助并解锁

DiT Loader节点

最常用的节点是DiT Loader(DiT 加载器),用于unet(DiT)模型加载。分别对应Nunchaku FLUX DiT Loader与Nunchaku Qwen-Image DiT Loader两个节点。如图所示:

DiT Loader节点

后续作者增加更多基础模型支持也同理。

在工作流中只需要使用该节点替换原本的Unet节点即可。以Flux模型为例,如图所示:

Nunchaku(双截棍)Flux模型示例

节点参数说明

隐藏内容
此内容需解锁查看
未解锁内容包含:约595个字符
  • 普通用户: 9.9牛币
  • VIP: 免费
  • SVIP: 免费
已有137人赞助并解锁

LoRA Loader(加载器)节点

该节点用于lora加载,如图所示:

Nunchaku(双截棍)Flux模型Lora加载器节点

隐藏内容
此内容需解锁查看
未解锁内容包含:约172个字符
  • 普通用户: 9.9牛币
  • VIP: 免费
  • SVIP: 免费
已有137人赞助并解锁

Text Encoder Loader节点

该节点用于加载clip模型,如同所示:

Tetx Encoder Loader节点

隐藏内容
此内容需解锁查看
未解锁内容包含:约154个字符
  • 普通用户: 9.9牛币
  • VIP: 免费
  • SVIP: 免费
已有137人赞助并解锁

版本与模型节点支持情况

截止v1.0.1版,主要核心节点支持的模型有:

隐藏内容
此内容需解锁查看
未解锁内容包含:约154个字符
  • 普通用户: 9.9牛币
  • VIP: 免费
  • SVIP: 免费
已有137人赞助并解锁

 

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。