基于 dGPU部署NanoDB，实现基于clip和faiss-gpu的高性能多模态检索

已于 2024-12-23 15:36:59 修改
阅读量205 收藏
点赞数
分类专栏： AIGC 文章标签： nanodb clip faiss vectordb 多模态检索 index 向量数据库
于 2024-12-12 16:36:40 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/space01/article/details/144428589
版权

目录

1 docker环境搭建

2 安装NanoDB

2.1 安装依赖

2.2 启动NanoDB

3 中文CLIP支持

当前 当前 NanoDB - NVIDIA Jetson AI Lab 是基于Jetson实现的，并没有在dGPU上部署的说明。为此， 参考上述的项目实现了在dGPU的NanoDB的部署，如T4。下面是具体的部署过程。

整个部署使用docker实现，因为涉及依赖库较多，普通的物理机部署较为复杂。

1 docker环境搭建

（1）下载docker images

当前的部署过程仅在nvcr.io/nvidia/tensorrt:24.05-py3这个image上测试通过，其余未进行测试。

docker pull nvcr.io/nvidia/tensorrt:24.05-py3

了解本专栏 订阅专栏 解锁全文 超级会员免费看
Jetson 系列（二十七） faiss-gpu
_yuki_
10-02 2000
Jetson 系列 faiss-gpu
NanoDB:作为学习项目编写SQL数据库
04-03
纳米数据库 SQL数据库，它是一个学习项目，旨在更好地理解数据库的内部结构。 地位 该项目处于活跃的开发状态。 文献资料
Node.js-Nano是一个简约CouchDB客户端
08-10
Nano是一个简约CouchDB客户端
faiss-gpu安装方法
tortorish的博客
03-16 1334
faiss-gpu安装方法
使用docker搭建faiss向量数据库
NDF923的专栏
03-18 2072
主要是创建了一个基于centos7的镜像，然后按照miniconda、faiss-gpu 和 pandas，但是奇怪的是在这里不管是执行pip install 还是conda install，都执行不成功，但是把这个放到容器中执行就可以，咱也不知道为啥。-v：指定一个卷（volume），将宿主机的/home/ndf/faiss/data目录映射到容器的/app/data目录；创建一个名为faiss-gpu的镜像，版本为v1；--name：指定了一个名称为ndf-faiss的容器；1、创建文件夹faiss。
Jetson Nano修改系统语言+安装conda+pytorch+pycharm+faiss-cpu+cuda配置
XXBaoHeTang的博客
02-23 2547
该文章为我的可行经验记录，如果能够帮到大家，不胜荣幸。我将在这里简要介绍每个板块的内容，大家看完后可以斟酌该篇文章是否对自己有用~1. 修改系统语言：我没有下载中文输入法，也不想下载，但是系统文件夹名为中文，不太方便，而且有的部分翻译得意义不明。2. 安装conda：Ubuntu18.04，python3.6.9，我安装的是miniforge23.11.0（与conda实现功能一样），用来管理虚拟环境，也可以用virtualenv。
使用FAISS和CLIP构建图像相似性搜索引擎
Warmer_Sweeter
08-28 1423
点击下方卡片，关注“小白玩转Python”公众号主要工作：阐述如何利用文本或图像查询来检索您的图像数据库，借助CLIP模型的嵌入技术与FAISS索引系统。介绍您是否曾面临在庞大的图像数据库中寻找特定图片的难题？本教程将指导您构建一个图像相似性搜索引擎，使您能够通过文本描述或提供参考图片来快速定位所需图像。为方便操作，本教程的完整代码已在文章末尾以Colab笔记本形式提供。流程概述图像的语义信息可以...
Jetson Containers 项目教程
gitblog_00551的博客
08-09 661
Jetson Containers 项目教程 jetson-containersMachine Learning Containers for NVIDIA Jetson and JetPack-L4T项目地址:https://gitcode.com/gh_mirrors/je/jetson-containers 项目介绍 Jetson Containers 是一个为 NVIDIA Jetson...
探索CouchDB的轻量级驱动：nano
gitblog_00059的博客
06-10 365
探索CouchDB的轻量级驱动：nano 去发现同类优质开源项目:https://gitcode.com/ 项目介绍 nano，一个专为Node.js设计的CouchDB驱动，以其最小化抽象和直接的数据交互方式，让你更接近CouchDB的核心功能。这个库不仅提供了基本的数据库操作，还支持管道、错误处理以及与其他服务同步，是构建CouchDB应用程序的理想选择。 项目技术分析 nano的设计理念在于...
faiss-gpu下载
Thomas33的博客
11-25 1134
下载faiss-gpu
Jetson Nano faiss 安装
lianbus的专栏
02-19 1512
faiss的安装，所有的地方都推荐用conda安装，又方便又快捷。but，conda不支持nano这种arm linux环境！也就是说只能git下来编译了。 于是，在jetson nano这样的arm linux平台上，用源码安装faiss步骤记录如下： arm linux上安装faiss第一步：安装BLAS git clone https://github.com/xianyi/Open...
如何安装faiss-gpu ubutnu18 cuda10.1
weixin_44523062的博客
07-05 2165
我透，耗费了我两个下午，在第一台服务器安装踩坑，后来又在另一台服务器安装又踩坑，我服了。特此记录。 使用Anaconda安装faiss是最方便快速的方式，facebook会及时推出faiss的新版本conda安装包，在conda安装时会自行安装所...
向量数据库对比和选择：Pinecone、Chroma、FAISS、Milvus、Weaviate
Cachel Wood的博客
05-27 254
摘要 本文对比了五种主流向量数据库（Pinecone、Chroma、FAISS、Milvus、Weaviate）的功能、性能、生态及成本。功能方面，Pinecone和Milvus适合大规模实时场景，Chroma轻量易用，FAISS适合离线分析，Weaviate支持多模态检索。性能上，FAISS查询最快，Pinecone和Milvus吞吐量高。生态方面，Pinecone和Milvus集成丰富，Chroma适合快速开发。成本上，FAISS和Chroma开源免费，Pinecone为云服务付费。选型建议：小规模选C
脑电图(EEG)中α、β、δ和θ波功率谱与频谱图分析
06-01
本次任务涉及绘制脑电图（EEG）数据，并通过快速傅里叶变换（FFT）和Welch方法计算功率谱。此外，还将利用FDA工具箱分析脑电图数据中的Alpha、Beta、Theta和Delta频段的频谱图，并进行相关频谱练习。参考文献为：John L.Semmlow所著的《生物信号和医学图像处理》第二版，该书由CRC出版社出版于2009年。
第一节办公自动化基础知识.ppt
05-31
第一节办公自动化基础知识.ppt
AXI协议之AHB的局限
最新发布
06-01
AXI协议之AHB的局限
计算机专业英语张强华第二版重点单词及部分课后答案.docx
05-31
计算机专业英语张强华第二版重点单词及部分课后答案.docx
计算机英语第4版课后练习参考复习资料.docx
05-31
计算机英语第4版课后练习参考复习资料.docx
faiss-gpu
03-16
### FAISS-GPU 的安装与使用指南 FAISS 是由 Facebook 开源的一个高效相似度搜索库，支持 CPU 和 GPU 加速。以下是关于如何在 Linux 系统上安装和配置 FAISS-GPU 库的具体方法。 #### 依赖环境准备 为了成功安装 FAISS-GPU，需要先完成 NVIDIA 驱动程序、CUDA 工具包以及 cuDNN 的安装[^1]。具体操作可以参考 TensorFlow-GPU 在 Ubuntu 上的安装流程[^2]： - **NVIDIA 显卡驱动**：确保已正确安装适用于系统的显卡驱动版本。 - **CUDA Toolkit**：推荐 CUDA 版本需匹配 FAISS 支持范围（通常为 CUDA 9.0 或更高版本）。可以通过运行文件方式安装 CUDA： ```bash sudo sh cuda_9.0.run --override ``` - **cuDNN**：下载对应 CUDA 版本的 cuDNN 并解压到指定路径下。 完成后执行以下命令以更新初始化内存映射文件并重启系统: ```bash sudo update-initramfs -u && reboot ``` #### 安装 FAISS-GPU 通过 PyPI 或者从源码编译两种途径来实现 FAISS-GPU 的部署。 ##### 方法一：基于 pip 进行快速安装 如果目标平台已经满足上述所有前提条件，则可以直接利用 Python 包管理工具 `pip` 来获取预构建好的二进制轮子文件： ```bash pip install faiss-gpu ``` 此过程会自动拉取适合当前硬件架构的最佳兼容版本[^4]。 ##### 方法二：手动编译自定义优化版 对于追求极致性能或者特殊需求场景下的用户来说，建议自行克隆官方仓库后按照指示逐步构建项目工程[^5]: 1. 获取最新代码副本： ```bash git clone https://github.com/facebookresearch/faiss.git cd faiss ``` 2. 编辑 CMakeLists.txt 文件中的选项开关，开启 GPU 功能模块支持； 3. 执行 cmake 构建脚本生成 Makefile 后再调用 make 命令完成整个项目的组装工作流： ```bash mkdir build && cd build cmake .. -DBUILD_SHARED_LIBS=ON -DCMAKE_BUILD_TYPE=Release \ -DGPU Faiss=ON -DCUDA_ARCH_LIST="7.5" make -j$(nproc) sudo make install ``` 注意调整 `-DCUDA_ARCH_LIST` 参数值至实际使用的 GPU 计算能力代号列表中去[^6]。 #### 使用示例 下面给出一段简单的 Python 脚本用于演示如何加载数据集并通过索引结构查询最近邻点对的结果集合： ```python import numpy as np import faiss d = 64 # vector dimensionality nb = 100000 # database size nq = 10000 # number of queries np.random.seed(1234) # set random seed for reproducibility xb = np.random.random((nb, d)).astype('float32') xq = np.random.random((nq, d)).astype('float32') index_flat = faiss.IndexFlatL2(d) # create a flat L2 index structure print(index_flat.is_trained) index_flat.add(xb) # add the vectors to be indexed into memory space print(index_flat.ntotal) k = 4 # define top-k nearest neighbors count we want back per query item D, I = index_flat.search(xq, k) # perform actual search operation against stored dataset entries print(I[:5]) # display first five results' indices only here print(D[:5]) # also print their corresponding distances metrics alongside them too. ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

space01

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值