InternLM+LlamaIndex RAG作业

已于 2024-08-08 21:26:46 修改
阅读量153 收藏
点赞数 3
CC 4.0 BY-SA版权
文章标签： 大作业 人工智能
于 2024-08-08 15:49:36 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/VC_Alexa/article/details/141028319

初次提问结果：

RAG后提问结果：

streamlit web:

VC_Alexa
关注
第四期书生大模型实战营【基础岛】—— InternLM + LlamaIndex RAG 实践
weixin_45730545的博客
02-11 610
基于 LlamaIndex 构建自己的 RAG 知识库，寻找一个问题 A 在使用 LlamaIndex 之前 InternLM2-Chat-1.8B 模型不会回答，借助 LlamaIndex 后 InternLM2-Chat-1.8B 模型具备回答 A 的能力，截图保存。：基于 LlamaIndex 构建自己的 RAG 知识库，寻找一个问题 A 在使用 LlamaIndex 之前 浦语 API 不会回答，借助 LlamaIndex 后 浦语 API 具备回答 A 的能力，截图保存。
Camp4-L1:InternLM + LlamaIndex RAG 实践
fangsfdavid的博客
10-31 806
书生浦语大模型实战营第四期-InternLM+LlamaIndexRAG实践
InternLM + LlamaIndex RAG 实践 作业
2401_86461867的博客
09-12 181
4. LlamaIndex RAG
InternLM + LlamaIndex RAG 实践作业
weixin_56230406的博客
08-01 180
After RAG。
InternLM + LlamaIndex RAG 实践
hahahagehahage的博客
09-02 217
RAG之前RAG之后。
L1G4000作业-InternLM+Llamaindex RAG 实践
m0_73878994的博客
11-16 1710
书生浦语训练营
InternLM Camp4 L1G400 InternLM + LlamaIndex RAG 实践
weixin_51617262的博客
11-13 725
本博客是第四期书生大模型实战营基础岛的第四个大任务。我们需要基于 LlamaIndex 构建自己的 RAG 知识库，让 InternLM2-Chat-1.8B 或者浦语API之前不会回答的问题现在会回答了。
《书生大模型实战营第3期》基础岛 第4关 ：InternLM + LlamaIndex RAG 实践
shiter编写程序的艺术
08-11 1088
光刻机是电子工业中最重要的设备，也是世界上造价最高的设备。光刻机是电子工业中最重要的设备，也是世界上造价最高的设备。光刻机是电子工业中最重要的设备，也是世界上造价最高的设备。光刻机是电子工业中最重要的设备，也是世界上造价最高的设备。光刻机是电子工业中最重要的设备，也是世界上造价最高的设备。光刻机是电子工业中最重要的设备，也是世界上造价最高的设备。给模型注入新知识的方式，可以简单分为两种方式，一种是内部的，即更新模型的权重，另一个就是外部的方式，给模型注入格外的上下文或者说外部信息，不改变它的的权重。
8.17 书生大模型实战营-基础岛4 -InternLM+LlamaIndex RAG 实践作业
zjzjsuus的博客
08-18 1227
1. 模型幻觉对于一些大模型不知道的知识，大模型可能会胡乱生成，并且试图让其看起来合理！2. 过时知识大模型本身在训练时，是一次性训练，因此采用的是过去的知识。当我们想要一些最新的知识时，大模型回答不了3. 缺乏透明和可追溯的推理过程大模型在生成回答时，可能答案是正确的，但是并不能展现大模型本身的一个推理过程，RAG的技术可以帮助我们追溯推理过程（对于这个点有点疑惑如图所示，由于xtuner是一款比较新的框架，训练数据库中并没有收录到它的相关信息。左图中问答均未给出准确的答案。右图未对。
第三期书生大模型实战营（【基础岛】- 第4关 | InternLM + LlamaIndex RAG 实践）
博客
10-08 1209
基础岛通关奖励：结营证书，解锁全部 50% A100 权限，1688 算力点奖励助力项目申请和落地。
书生大模型实战营第四期-闯关挑战L1G4000 InternLM + LlamaIndex RAG 实践 任务记录
qq_39297910的博客
11-27 843
（我们也可以选用别的开源词向量模型来进行 Embedding，目前选用这个模型是相对轻量、支持中文且效果较好的。，由于需要避免在项目中储存API KEY，这里在原有的基础上简单地加上了API KEY输入和检测。通过llamaindex使用RAG后，浦语API成功认识了xtuner。，点击vscode弹窗自动配置端口映射，打开后询问得到结果。因为开发机没有魔法，这边直接在本地把项目做好上传了。可见目前本地部署的大模型不认识xtuner。为了完成这次的任务，我们解锁了更强的算力。运行时长： 默认8小时。
书生大模型4期基础岛闯关4-InternLM + LlamaIndex RAG 实践
m0_57280180的博客
11-13 217
任务要求1（必做，参考readme_api.md）：基于 LlamaIndex 构建自己的 RAG 知识库，寻找一个问题 A 在使用 LlamaIndex 之前 浦语 API 不会回答，借助 LlamaIndex 后 浦语 API 具备回答 A 的能力，截图保存。注意：写博客提交作业时切记不要泄漏自己 api_key！
时间序列预测Python机器学习应用
木头大左的博客
07-23 1033
时间依赖性：当前值受过去值的影响。趋势性：数据可能呈现长期上升或下降的趋势。季节性：数据在固定周期内重复出现的模式。噪声：随机波动，无明显规律。
腾讯内测的 AI 编程 IDE，上手表现如何？（含实测）
非著名程序员
07-22 1071
通过截图，我们可以看到，点击小火箭图标，也就是「部署」按钮之后，开始执行命令，先是创建 sandbox ，然后上传代码，安装部署环境和各种依赖，最后启动服务。另外，最后，我不得不夸一句，腾讯的产品力不仅体现在功能和人性化上，在产品设计上也是非常好，这个 IDE 的界面语言，是我目前见过的 AI 编程工具当中最好的。让你的需求变成真正可用的应用。虽然是基于开源的 VS Code IDE 衍化而来，但是，从整体的界面的细腻程度，真的做到了简洁大方，非常好看，给你一看就是一款有质感，有追求的 IDE。
论文笔记：EDITING MODELS WITH TASK ARITHMETIC
qq_40206371的博客
07-21 847
2023 ICLR。
大模型开发
2302_81352523的博客
07-23 639
AI（人工智能）是使机器具备类人思考和解决问题能力的技术，其核心是Transformer神经网络模型（如GPT）。大模型应用结合传统编程实现记忆等复杂功能，应用开发技术包括Prompt问答、微调、Agent调用和RAG（外挂知识库），适用于客服、医疗、办公自动化等场景。AI通过数据训练掌握语言规律，处理模糊性问题，与传统程序互补形成强大应用。
统计与大数据分析与数学金融方向课程差异有哪些？如何提升职场竞争力？
LRQ2025的博客
07-23 849
统计与大数据分析和数学金融专业存在显著课程重叠（概率统计、编程、优化等），但主攻方向不同。统计侧重机器学习、大数据处理及广泛领域应用；数学金融则深入金融建模、衍生品定价等专业领域。建议新生结合兴趣（数据算法vs金融建模）与职业规划（数据科学家vs量化分析师），利用大一大二共同基础课程进行体验后选择。两个专业基础课高度相似，扎实掌握数学与编程核心能力是关键。
动手学深度学习2.0-李沐Pytorch版
最新发布
qq_43361801的博客
07-24 207
教材的pdf我已经上传到资源啦！动手学深度学习在线课程。
Mamba（SSM、S4、S4）
BigGod139的博客
07-23 725
状态空间模型SSM，20世纪60年代有卡尔曼等研究者提出，概念很在提出。连续SSM一般形式如下：State Equation：x′(t)=Ax(t)+Bu(t)x'(t) = Ax(t) + Bu(t)x′(t)=Ax(t)+Bu(t) 其中：Output Equation：y(t)=Cx(t)+Du(t)y(t) = Cx(t) + Du(t)y(t)=Cx(t)+Du(t) 或 y(t)=Cx(t)y(t) = Cx(t)y(t)=Cx(t) 其中：离散SSM一般形式如下：与连续SSM相比，x,t,u,
基于deepseek+llamaindex
03-25
<think>好的，我现在需要帮助用户解决如何结合DeepSeek和LlamaIndex的问题。首先，我应该先理解用户的需求。用户提到了集成DeepSeek和LlamaIndex，想要教程、示例代码和最佳实践。他们可能是在开发一个需要利用大模型进行智能问答或数据分析的应用，所以需要将DeepSeek的模型能力与LlamaIndex的数据索引和检索功能结合起来。 首先，我需要回忆一下DeepSeek和LlamaIndex各自的用途。DeepSeek是深度求索公司开发的大语言模型，可能类似ChatGPT，用于生成文本或代码。而LlamaIndex，之前称为GPT Index，是一个用于构建索引和高效检索数据的工具，常用于RAG（检索增强生成）应用，帮助模型获取外部知识。 接下来，我需要考虑如何将两者集成。通常，集成大模型和LlamaIndex的步骤包括：准备数据、构建索引、查询索引并将结果输入模型生成回答。用户可能需要知道如何用DeepSeek替换LlamaIndex中默认的模型，比如OpenAI的GPT。 然后，我需要检查用户提供的引用内容，看是否有相关信息。引用[3]提到腾讯云HAI与DeepSeek合作，可以私有化部署DeepSeek-R1模型作为代码助手。这可能意味着用户需要私有化部署的DeepSeek模型，因此需要相应的API配置。 接下来，我应该规划回答的结构。先介绍基本概念，然后分步骤说明集成方法，包括环境准备、数据索引、查询处理、模型调用等步骤，并提供示例代码。同时，需要指出注意事项和最佳实践，比如分块策略、模型微调、缓存机制等。 在编写示例代码时，需要确保使用LlamaIndex的接口来加载文档、构建索引，并设置自定义的LLM（DeepSeek）。可能还需要展示如何调用DeepSeek的API，比如设置API密钥和基础URL（如果是本地部署的话）。 还需要考虑可能的错误点，比如API密钥的正确性，网络连接，数据格式是否正确。同时，最佳实践部分要强调数据预处理、性能优化和模型选择的重要性。 最后，生成相关问题，帮助用户进一步探索，比如性能优化、数据处理方法、微调模型等。这些问题应该与用户当前的问题相关，并引导他们深入理解集成过程。 总结一下，整个思考过程需要涵盖用户需求分析、技术组件理解、引用内容整合、步骤规划、代码示例验证以及潜在问题考量，确保回答全面且可行。</think>### 如何集成 DeepSeek 与 LlamaIndex #### 1. 环境准备 - **安装依赖**：确保安装 `llama-index` 和 `deepseek` 相关 SDK（若存在）或通过 API 调用。 ```bash pip install llama-index python-dotenv requests ``` - **配置 DeepSeek 访问**： 如果使用私有化部署的 DeepSeek 模型（如腾讯云 HAI 提供的服务），需获取 API 密钥和访问地址。在 `.env` 文件中配置： ```env DEEPSEEK_API_KEY=your_api_key DEEPSEEK_BASE_URL=http://your-deployment-url ``` #### 2. 自定义 DeepSeek 接口 由于 LlamaIndex 默认支持 OpenAI，需自定义 `LLM` 类调用 DeepSeek： ```python from llama_index.llms import CustomLLM from dotenv import load_dotenv import os import requests load_dotenv() class DeepSeekLLM(CustomLLM): def __init__(self): self.api_key = os.getenv("DEEPSEEK_API_KEY") self.base_url = os.getenv("DEEPSEEK_BASE_URL") def complete(self, prompt, **kwargs): headers = {"Authorization": f"Bearer {self.api_key}"} data = { "messages": [{"role": "user", "content": prompt}], "model": "deepseek-r1", "temperature": 0.7 } response = requests.post(f"{self.base_url}/v1/chat/completions", json=data, headers=headers) return response.json()["choices"][0]["message"]["content"] ``` #### 3. 构建索引与查询 ```python from llama_index import VectorStoreIndex, SimpleDirectoryReader # 加载文档 documents = SimpleDirectoryReader("data").load_data() # 初始化 DeepSeek deepseek_llm = DeepSeekLLM() # 构建索引（使用默认的 HuggingFace 嵌入模型） index = VectorStoreIndex.from_documents(documents) # 配置查询引擎 query_engine = index.as_query_engine(llm=deepseek_llm) # 执行查询 response = query_engine.query("如何优化 Python 代码性能？") print(response.response) ``` #### 4. 最佳实践 - **数据分块策略**：调整 `NodeParser` 参数控制文档分块大小，确保输入模型的上下文合理。 ```python from llama_index.node_parser import SimpleNodeParser parser = SimpleNodeParser(chunk_size=512, chunk_overlap=64) nodes = parser.get_nodes_from_documents(documents) ``` - **模型微调**：若需领域特定优化，可基于 DeepSeek-R1 进行微调（需训练数据）[^2]。 - **缓存机制**：通过 `llama-index` 的 `Cache` 模块减少重复调用开销。 #### 5. 应用场景示例 - **私有知识库问答**：将企业内部文档索引化，通过 DeepSeek 生成符合业务逻辑的回答。 - **代码辅助开发**：结合代码仓库数据，实现智能代码补全和错误分析[^3]。 --- ### 相关代码效果验证 若私有化部署成功，DeepSeek-R1 返回的答案会包含具体的优化建议（如算法改进、并行化处理等），同时引用索引中检索到的相关内容。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值