gguf量化模型节点安装使用指南

GGUF是一种对整数位进行量化的一种量化模型，模型文件后缀为.gguf，不同的量化模型降低了对显卡的配置的要求。

在使用之前需要安装一个额外的第三方节点ComfyUI-GGUF，来加载gguf模型。可以通过管理器来安装，或者通过git命令手动安装。还不了解第三方节点安装可以参照之前的内容。

manager（管理器）安装

可以通过管理器搜索ComfyUI-GGUF，获得该节点并安装。如图所示：

git clone安装

git安装命令：

git clone https://github.com/city96/ComfyUI-GGUF.git

还不了解如何安装节点，也可参照之前的节点安装教程，传送门：安装常用第三方节点/插件

unet模型加载

gguf类型的模型，与普通unet类型模型一样，可以将模型存放到ComfyUI\models\unet目录中。

安装好节点之后找到Unet loader（GGUF）/Unet加载器（GGUF）节点，替换掉原本的unet节点即可，如图所示：

上图以flux模型为例，其他模型也完全一样。

CLIP模型加载

除了unet类型的模型，clip模型也可以被量化为gguf类型，只需要将gguf类型的clip模型存放到ComfyUI\models\clip目录中。

clip模型的加载节点，如图所示：

使用方式也与普通clip相同。