基于deepseek + JBoltAI使用私有化embedding服务

要想发挥JBoltAI的真正实力🎯, 请持续关注我们向量空间🤩😚~

---

Hello, 亲爱的小伙伴们, 今天给dajia带来的是, 如何部署自己的embedding服务, 并且在JBoltAI中部署使用使用
下面开始介绍,

1. 私有部署embedidng服务

mkdir /app/embedding/model
# 下载embedding model到/app/embedding/model
# 模型下载地址, 留在了文章的最下方哦~
# 创建app.py, 代码如下

app.py 代码

from flask import Flask, jsonify, request
from sentence_transformers import SentenceTransformer

app = Flask(__name__)

path <