L1G4000 InternLM + LlamaIndex RAG 实践

任务：使用浦语API与LlamaIndex实现RAG

一、配置

按照步骤来即可，为了防止某个包忘记下载可以使用如下代码检查

pip show <包名称>

然后是在下载 Sentence Transformer 模型部分，发现用py脚本容易断网报错，所以建议用git，也很快。

二、使用RAG前后对比

使用RAG前，向大模型提问XTuner相关问题

由于XTuner是非常新的技术，大模型还不知道他，所以这里大模型基本上实在乱说。

使用RAG：

首先获取知识库，直接git得到XTuner的使用说明

data下的readme.md就是接下来要使用的知识库了

微调结果：

可以看出，利用RAG让模型获得关于XTuner的知识库，大模型成功对XTuner有了正确的了解。

Web UI

至此，我们成功使用llama'index和书生的API实现了RAG，使得大模型获得了额外的知识库。