clip_as_service学习

参考：clip_as_service学习过程(一)——安装客户端与服务端_clip-as-service-优快云博客

CLIP-as-service 0.8.3 documentation (jina.ai)

pip3 install clip-client

/usr/local/python3/bin/python3.7 -m pip install --upgrade pip

pip3 install clip-server

pip install cn_clip

python3 -m pip install fastapi uvicorn

启动

python3 -m gunicorn myproject.main:app --workers 4 --worker-class uvicorn.workers.UvicornWorker --bind 127.0.0.1:4001

或

python3 -m uvicorn main:app --host 127.0.0.1 --port 4000

参考：CLIP模型原理与代码实现详解-优快云博客

Retrieval-Augmented Generation（RAG）可以翻译为“检索增强生成”。这是一种结合了检索和生成两种技术的机器学习方法，通过在大规模知识库中检索相关信息来辅助和增强模型的文本生成能力。

参考：

https://blog.youkuaiyun.com/qq_24654501/article/details/134495870

启动命令

启动 server

python3 -m clip_server

nohup python3 -m clip_server > output.log 2>&1 &

启动 web服务：

python3 -m uvicorn main:app --host 127.0.0.1 --port 4000

或

nohup python3 -m uvicorn main:app --host 127.0.0.1 --port 4000 > output.log 2>&1 &

curl -X POST http://127.0.0.1:4000/  -H 'Content-Type: application/json'  -d '{"data":[{"text": "First do it"}], "execEndpoint":"/"}'
 

对外提供服务 需要修改为服务器ip

jobs -l

nohup python3 -m uvicorn main:app --host 192.168.1.243 --port 4000 > output.log 2>&1 &

curl -X POST http://192.168.1.243:4000/  -H 'Content-Type: application/json'  -d '{"data":[{"text": "First do it"}], "execEndpoint":"/"}'

512维