RedisAI 安装与配置指南

RedisAI 安装与配置指南

RedisAI A Redis module for serving tensors and executing deep learning graphs 项目地址: https://gitcode.com/gh_mirrors/re/RedisAI

1. 项目基础介绍

RedisAI 是一个为 Redis 数据库设计的模块，它允许 Redis 执行深度学习和机器学习模型，并管理其数据。该项目的目的是成为一个模型服务的 "工作马"，通过提供对流行深度学习/机器学习框架的支持，实现无与伦比的性能。RedisAI 遵循数据局部性原则，最大化计算吞吐量并减少延迟，同时简化了图形的部署和服务，利用 Redis 的生产级基础设施。

本项目主要使用 C 语言编写，同时也包含了 Python、C++、Shell 和 CMake 等语言编写的辅助脚本和工具。

2. 项目使用的关键技术和框架

• TensorFlow：Google 开发的开源机器学习框架，用于研究和生产中的深度学习项目。
• PyTorch：Facebook 开发的开源深度学习框架，广泛用于计算机视觉和自然语言处理等应用。
• ONNXRuntime：一个高性能的 ONNX 模型执行器，支持多种硬件加速。
• TensorFlow Lite：TensorFlow 的轻量级解决方案，适用于移动设备和嵌入式设备。

3. 项目安装和配置的准备工作

在开始安装之前，请确保您的系统满足以下要求：

• Redis 服务器版本 6.0.0 或以上。
• Git、Python 3、make、wget、g++/clang 编译器和 unzip 工具。
• 如果需要 GPU 支持，则需要安装 CUDA 11.3 和 cuDNN 8.1 或以上版本。

安装步骤

1. 克隆项目仓库

   使用 git 命令克隆 RedisAI 的源代码仓库：

   git clone --recursive https://github.com/RedisAI/redis-inference-optimization.git
   

2. 切换到项目目录

   进入 RedisAI 项目目录：

   cd redis-inference-optimization
   

3. 构建依赖

   根据您的需求，选择以下命令之一来下载并构建 RedisAI 依赖：

   • 仅 CPU 支持：

     bash get_deps.sh
     

   • GPU 支持：

     bash get_deps.sh gpu
     

4. 构建模块

   构建 RedisAI 模块：

   • 仅 CPU 支持：

     make -C opt clean ALL=1
     make -C opt
     

   • GPU 支持：

     make -C opt clean ALL=1
     make -C opt GPU=1
     

5. 加载模块

   在启动 Redis 服务器时，使用 --loadmodule 命令行选项，或 loadmodule 配置指令，或 Redis 的 MODULE LOAD 命令来指定模块库的路径。

   例如，使用以下命令在 Redis 服务器中加载模块：

   redis-server --loadmodule ./install-cpu/redis-inference-optimization.so
   

6. 尝试使用

   加载模块后，您可以使用 redis-cli 客户端与 RedisAI 交互。

以上就是 RedisAI 的安装与配置指南。遵循这些步骤，您应该能够成功安装并开始使用 RedisAI。

RedisAI A Redis module for serving tensors and executing deep learning graphs 项目地址: https://gitcode.com/gh_mirrors/re/RedisAI