【基础岛第四关】书生大模型实战营 - Llamaindex RAG 实践

最新推荐文章于 2025-04-06 23:26:19 发布

zhangpf.net

最新推荐文章于 2025-04-06 23:26:19 发布

阅读量231

点赞数 3

文章标签： python 深度学习开发语言

本文链接：https://blog.youkuaiyun.com/wdxt206/article/details/145427000

版权

任务要求1

基于 LlamaIndex 构建自己的 RAG 知识库，寻找一个问题 A 在使用 LlamaIndex 之前浦语 API 不会回答，借助 LlamaIndex 后浦语 API 具备回答 A 的能力，截图保存。

环境准备

1. 在书生浦语创建开发机，地址：InternStudio

2. 进入开发机，创建并激活虚拟环境，并安装依赖

conda create -n llamaindex python=3.10
conda activate llamaindex
pip install einops==0.7.0 protobuf==5.26.1

3. 安装llamaindex

pip install llama-index==0.11.20
pip install llama-index-llms-replicate==0.3.0
pip install llama-index-llms-openai-like==0.2.0
pip install llama-index-embeddings-huggingface==0.3.1
pip install llama-index-embeddings-instructor==0.2.1
pip install torch==2.5.0 torchvision==0.20.0 torchaudio==2.5.0 --index-url https://download.pytorch.org/whl/cu121

4. 创建原词向量模型Sentence Transformer 下载文件

内容如下：

import os

# 设置环境变量
os.environ['HF_ENDPOINT'] = 'https://hf-mirror.com'

# 下载模型
os.system('huggingface-cli download --resume-download sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 --local-dir /root/model/sentence-transformer&#