Bootstrap

【Linux】ComfyUI和SD WebUI之PYTHON环境共享,模型共享,LORA等公共资源共享。最大限度节约空间

需求

一般玩AI绘图都会装ComfyUI和SD WebUI。而且这俩的模型、lora等都是一致的。为了避免空间的浪费,一般会采用共享数据的方式。而且共享的数据可以任意指定分区,这让挂载NAS共享空间成为可能,实现多绘画机ComfyUI和SD WebUI共享资源。

实现

即使我们将能共享的资源共享,我们也仅能实现90%的资源共享,还是部分资源还是无法完全共享,例如sam模型、facedetection等。所以建议应用所在盘至少预留10G的空间。

NAS挂载这里就不说了,重点说配置的部分

远程盘目录

PYTHON环境共享

PYTHON环境共享后,可以节约很多PYTHON组件资源。由于SDWebUI采用venv,因此ComfyUI也采用venv是最合适的,我们将ComfyUI里的venv提到用户根/root。然后所有的pip安装requirements以及运行前,先进入venv环境:

source /root/venv/bin/activate

SDWebUI

目前个人采用的方式,是在启动参数里配置,这样可以根据不同的启动配置来变更参数。例如/data是我们的NAS远程盘。这样来启动SDWebUI:

source /root/venv/bin/activate
cd /root/sd-webui-aki-v4.7
./webui.sh --listen --skip-torch-cuda-test --disable-nan-check --skip-version-check --skip-python-version-check --enable-insecure-extension-access --api --xformers --xformers-flash-attention --opt-sdp-attention --no-half-vae --theme=dark --lora-dir /data/models/Lora --vae-dir /data/models/VAE --ckpt-dir /data/models/checkpoint --controlnet-dir /data/models/ControlNet --embeddings-dir /data/models/embeddings --controlnet-annotator-models-path /data/models/downloads

ComfyUI

配置完后SDWebUI后,我们就可以配置ComfyUI共享一些SDWebUI配置

ComfyUI的配置文件在展开根目录下的extra_model_paths.yaml,没有就新建一个:

主要修改a1111下的base_path以及comfyui下的几个配置

#Rename this to extra_model_paths.yaml and ComfyUI will load it


#config for a1111 ui
#all you have to do is change the base_path to where yours is installed
a111:
    base_path: /root/sd-webui-aki-v4.7/

    checkpoints: models/Stable-diffusion
    configs: models/Stable-diffusion
    vae: models/VAE
    loras: |
         models/Lora
         models/LyCORIS
    upscale_models: |
                  models/ESRGAN
                  models/RealESRGAN
                  models/SwinIR
    embeddings: embeddings
    hypernetworks: models/hypernetworks
    controlnet: models/ControlNet

#config for comfyui
#your base path should be either an existing comfy install or a central folder where you store all of your models, loras, etc.

comfyui:
     base_path: /root/ComfyUI/
     checkpoints: /data/models/checkpoint
     clip: /data/models/clip/
     clip_vision: /data/models/clip_vision/
     configs: /data/models/configs/
     controlnet: /data/models/ControlNet
     embeddings: /data/models/embeddings/
     loras: /data/models/Lora/
#     upscale_models: models/upscale_models/
     vae: /data/models/VAE/
     unet: /data/models/unet/

#other_ui:
#    base_path: path/to/ui
#    checkpoints: models/checkpoints
#    gligen: models/gligen

然后启动comfyui:

#!/bin/bash
cd /root/
source /root/venv/bin/activate
python ComfyUI/main.py --fp8_e4m3fn-text-enc --fp8_e4m3fn-unet --front-end-version Comfy-Org/ComfyUI_frontend@latest --listen 0.0.0.0

;