什么是Nunchaku?
Nunchaku是一个推理引擎,是针对麻省理工提出的一种,基于SVDQ的4位量化范式设计的。主要目的是牺牲少量精度,来减少对硬件(显卡)的需求,使用nunchaku的推理结果非常接近fp8精度的模型。
量化类型
fp4
用于50系列显卡/Blackwell 架构的显卡
int4
用于其他显卡(较老架构的显卡无法支持)
安装Nunchaku
节点安装
如果你还不清楚comfyui第三方节点如何安装,也可以先参考节点安装教程,传送门:安装常用第三方节点/插件
manager(管理器)安装
在管理器中搜索ComfyUI-nunchaku进行安装,如图所示:
git clone安装
克隆节点
git clone https://github.com/nunchaku-tech/ComfyUI-nunchaku.git
安装依赖
pip install -r requirements.txt
安装轮子
在使用Nunchaku之前,还需要安装nunchaku专用轮子。有两种方式可以进行安装,比较简单的方式是,使用作者提供的自动安装工作流进行安装,另一种方式是自己手动安装(若自动安装失败,就只能用这种方式进行安装)。
不过在安装前还应确保已经具备C编译环境,可以参考之前的教程。传送门:python和pip常用命令,comfyui环境报错、节点安装必备技能
自动安装
1、安装完成节点之后,在节点库中,找到双截棍(Nunchaku)→双截棍轮子安装器(Nunchaku Installer),如图所示:
2、新建一个空白工作流,将双截棍轮子安装器(Nunchaku Installer)节点拖拽到工作流中,然后找到工具中,预览任意节点。把轮子安装器的输出状态,与预览任意节点相连,然后执行工作流即可开始安装。如图所示:
3、在预览节点中显示Success则表示安装成功,并且在后方会显示已经安装的对应轮子信息。如图所示:
- 参数说明
手动安装
手动下载最新版本轮子文件,需要注意选择对应的轮子版本和环境适配,手动安装轮子可以参照对应教程,传送门:comfyui常用轮子大全-whl文件下载安装
安装可能报错解决
使用Nunchaku
无论自动还是手动安装轮子,安装完成后都需重新启动comfyui后nunchaku才能生效正常使用。
nunchaku模型下载
在使用nunchaku节点时,需要下载对应的模型文件,作者为不同的模型量化了对应的svdq模型。50系显卡应使用fp4的量化模型,而其他显卡则使用int4的量化模型。
网盘下载:https://pan.quark.cn/s/e3c5f4574aa6
模型存放路径:ComfyUI\models\unet或ComfyUI\models\diffusion_models
更多下载渠道⬇⬇⬇
DiT Loader节点
最常用的节点是DiT Loader(DiT 加载器),用于unet(DiT)模型加载。分别对应Nunchaku FLUX DiT Loader与Nunchaku Qwen-Image DiT Loader两个节点。如图所示:
后续作者增加更多基础模型支持也同理。
在工作流中只需要使用该节点替换原本的Unet节点即可。以Flux模型为例,如图所示:
节点参数说明
LoRA Loader(加载器)节点
该节点用于lora加载,如图所示:
Text Encoder Loader节点
该节点用于加载clip模型,如同所示:
版本与模型节点支持情况
截止v1.0.1版,主要核心节点支持的模型有:












评论(0)