applebomb的专栏

发现是下载的模型不对，huggingface下有好几个版本，恰好我下的版本就没有model.safetensors。

避免comfyUI启动总是检查输出FETCH ComfyRegistry Data

最近AI项目需要java与python通讯，两边都是比较新的版本。因此需要双方进行通讯，在这里记录一下所采用的方案和关键点。

我的是使用minicoda3安装在默认路径的，因此激活文件是/root/miniconda3/bin/activate。tensor-parallel-size 2：这里是指定在2个显卡上运行，由于我的环境是双卡，因此启用了张量并行。/data/llm/Qwen_QwQ-32B-Q5_K_S.gguf：这个是你的模型文件位置。cosyvoice：这个是conda的环境名，你的vllm装在哪个环境，就指定为哪个环境。/data/llm：这个是运行目录，我是直接指定了GGUF目录。

双卡机器，第一块显卡显存快挤爆了。于是研究下怎么让cosyvoice运行在第二块，找了半天找到了办法：修改cosyvoice/cli/model.py，把。即可执行为显卡2运行。

可惜官方没有去提供配置为服务的方法，而docker又不是特别感冒。所以自己研究了下chroma配置为服务的方式。我使用的是miniconda，直接默认安装在root用户目录下了。建立的执行环境为：llm。Chroma是一个轻量级向量数据库。既然是数据库，那么我希望它是能够长时间运行。环境：conda+python10。系统：ubuntu 22.04。

最新LLM-Factory加速方式里有liger_kernel方式。该问题是因为你使用GPU加速，需要切换成使用你本地CUDA的版本。该问题是因为MatmulLtState版本太新，某些属性改变了。然后就可以开心的使用liger_kernel加速啦！先把原文件备份（报错信息里的.so会带路径）然后建个软链接指向你驱动库的文件。

需要修改ComfyUI/custom_nodes/Comfyui_CXH_joy_caption/Joy_caption_node.py。

ComfyUI和SD WebUI之PYTHON环境共享，模型共享，LORA等公共资源共享

基本原理已经弄通，下一步要开始编码搬砖了。整个自动绘画的流程如下，暂就不整高深U什么L了，写个简单明能看懂的流程图。UI借用了下墨刀里的AI绘画公开原型

最近更新一个工作流。里面有一些爆红节点，很正常的想到去Manager安装，于是乎开启Clash猫远程安装。装完了还是有一些报错，InsightFaceLoader也无法安装，很奇怪，很常用的节点啊。处理的方式

今天在一台新的机器环境装了SDWEBUI，都使用最新的版本，升级了下换脸的插件，于是乎启动崩溃了。解决cannot import name ‘Undefined‘ from ‘pydantic.fields‘的报错

StableDiffusion Web UI开启FP8，极大节约显存的操作方法

目前使用的版本是去年10月的1.6版本，有点老。希望支持新的特性，于是乎开始作死。从升级torch开始

来进行知识接力了：首先了解下ComfiUI的API对于ComfiUI，接口比较简单。查询接口比较容易看明白。对于发起prompt的请求，如果需要图片的，则需预先上传图片给ComfiUI，获取返回的文件名进行调用。发起调用后，实际上是加入队列，获得一个任务ID，通过ws实时获取对应的执行状态，进度等数据。当未执行时，则查询任务获得图片。