zyfengg的博客

原创 昇腾Mindie + mis-tei + dify + DeepSeek-R1-Distill-Qwen-32B-W8A8

提前准备模型：bge-large-zh-v1.5 、 bge-reranker-large。5、配置dify信息，获取mindie和mis-tei服务可用模型。docker ps 查看后台拉起dify依赖容器。4、后台npu-smi info查看容器运行情况。查看版本 docker-compose -v。2、mis-tei 安装和拉起。3、dify 安装和拉起。1、Mindie 服务。蒸馏模型LLM模型信息。从昇腾镜像中心获取镜像。获取dify源码并进入。配置mindie模型。