FLUX.1 开发版和 schnell 开源文本到图像生成模型提供了无与伦比的质量，性能与专有模型相当。

然而，运行这些新模型，特别是 FLUX.1 开发版，需要 16–24GB 的显存来运行完整的未压缩模型——而许多人并没有这么多显存可用。

这时，量化模型就派上用场了。

什么是量化模型

借鉴开源 LLM 的做法，量化模型本质上是经过压缩的完整模型。压缩越大，所需的显存就越少，但最终输出的准确性/质量会有所下降。

然而，这种质量的折衷使得模型可以在低端硬件上运行。

有许多不同的量化策略。如果你想了解更多，可以阅读 Maarten Grootendorst 的这篇精彩文章。

为什么现在需要量化模型，而稳定扩散时不需要？

来自 Stability 的之前的文本到图像生成模型，如 Stable Diffusion 1.5、SD2 和 SDXL，复杂性不足以需要使用量化模型。

除了 FLUX.1 的更大模型外，你还需要使用 CLIP 和 T5-XXL 编码器模型——后者也有量化模型可用，以减少显存占用。

设置

在设置中，我们将讨论在哪里下载和放置模型文件，以及如何在 ComfyUI 中安装自定义节点。

你也可以观看这个简短视频中的逐步过程：

下载和放置模型

开发者 city96 在 HuggingFace 上慷慨地提供了 FLUX.1 dev 和 schnell 模型 的量化模型，范围从 2 位到 16 位（原始 FLUX 模型为 32 位）。

选择合适的位数量化并不简单，因为这取决于你的具体机器。然而，对于大多数人来说，4 位或 6 位模型（Q4 或 Q6）是一个不错的起点。

下载 .gguf 文件时，你需要将其放置在 ComfyUI/models/unet 目录中。

对于 T5-XXL 编码器模型，你可以在这里找到，作者表示“因此建议使用 Q5_K_M 或更大的模型以获得最佳效果”。

将量化的 T5-XXL 模型放置在 ComfyUI/models/clip 目录中。

安装 ComfyUI-GGUF 自定义节点

在 ComfyUI 管理器中，你需要安装 ComfyUI-GGUF 自定义节点。这将为你的 ComfyUI 实例添加 UNet Loader GGUF 和 DualClip Loader GGUF 节点。

在 ComfyUI 中运行

在 ComfyUI 中运行 FLUX.1 GGUF 文件非常简单。你只需执行以下步骤：

1. 设置自定义节点

要使用 GGUF 文件，我们将把 UNet Loader GGUF 和 DualClip Loader GGUF 节点添加到工作流程的开头：

确保将 DualClip Loader GGUF 设置为包含 CLIP 和 T5-XXL（GGUF）模型，并将 type 设置为 flux。虽然 FLUX 不支持负提示，但你仍然需要将 CLIP 输出连接到两个 CLIP Text Encode (Prompt) 节点的 CLIP 输入；否则，ComfyUI 会抛出错误。

UNet Loader GGUF 节点将支持放置在 ComfyUI/models/unet 目录中的任何 GGUF 文件。

注意：ae.safetensors 文件是由 Black Forest Labs 团队提供的 VAE。如果你还没有，可以在 HuggingFace 上下载它。

2. 提示、KSampler 和潜在空间

FLUX 相较于之前的模型的优势在于它能够非常好地遵循提示。

因此，与其说 1block, green, natural lighting，你可以更具描述性，模型将生成更符合你提示的结果。在使用 FLUX 模型时，请务必采用这种方法。

如前所述，负提示将留空。对于 KSampler 节点，你需要设置以下内容：

• CFG: 1.0
• 采样器名称: Euler
• 调度器: Simple

最后，潜在空间的大小可以有很大变化，支持的分辨率范围在 0.1 到 2 兆像素之间。

最终的工作流程将如下所示：

你还可以在 Prompting Pixels 网站 上找到下载此工作流程的链接。

3. 排队提示并查看结果

最后，点击 Queue Prompt 并在 ComfyUI 中查看结果。对于提示 a photo of green pyramid block next to a red circle block. behind the blocks is a wooden chair 的 512x512 图像，FLUX 生成了这张图像：

🔥 构图非常到位！

仅供参考，上述图像渲染耗时 34 秒，总显存使用量为 7.6 GB（使用 FLUX Q2 和 T5-XXL Q3）。

关于运行的任何问题？

请在下面的评论中留言 👇

想了解更多关于扩散模型的信息？查看 Prompting Pixels 网站，我们有深入的教程和视频。