大模型学习之书生·浦语大模型3——基于InternLM和LangChain搭建知识库

uncle_ll uncle_ll 博客等级 墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 1.1k累计阅读 1.1k平均单平台 已同步平台 优快云 微信公众号 微博 知乎 掘金 百家号 博客园 抖音 小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网 我也要 码龄13年
关注
原创 2024-01-10 18:30:29 1.1k 阅读 AI 写同款· GEO 优化 ›
windows系统下，如何为comfyui如何安装triton ​ 有些加速插件、模型在安装的时候，比如说sageattention的安装，就需要提前安装triton这个包，不过这个包有点特殊，windows下略微不好装，经常会装失败。 🎠如何安装 之前也有人介绍过，要到github上找个wheel文件，找到对应的版本安装下就好了。 问题是：https://github.com/woct0rdho/triton-windows/releases 这个git地址上，已经找不到wheel文件了... ​ 阅读详情

在这里插入图片描述

基于InternLM和LangChain搭建知识库

在这里插入图片描述

1 大模型开发范式

在这里插入图片描述

LLM的局限性

在这里插入图片描述

  • 知识受限：最新知识无法实时获取
  • 专业能力有限：有广度无深度
  • 定制化成本高：训练成本高

RAG VS Finetune

在这里插入图片描述
RAG：

  • 无需重新训练
  • 组织外挂加入知识
  • 容易受基座模型的影响
  • 问题+回答一起送入大模型，占据token长度

Finetune

  • 个性化微调：风格，领域知识
  • 知识面覆盖广：新的数据集及通用数据集按照比例混合
  • 训练成本高
  • 无法实时更新

RAG检索增强

在这里插入图片描述

2 LangChain简介

在这里插入图片描述

  • 开源
  • 通用
  • 核心模块：
    • chains
    • agent

基于LangChain搭建RAG应用

在这里插入图片描述

3 构建向量数据库

在这里插入图片描述
在这里插入图片描述

  • 加载源文件
    • 不同的文件有不同的加载方式
  • 文档分块chunk
    • 字符串长度分割
    • 重叠区间
    • 代码的话就是代码块 类等
  • 文档向量化
    • 文档embedding
    • 存入向量数据库

4 搭建知识库助手

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
限制：

  • 检索精度
  • prompt性能

5 Web Demo部署

在这里插入图片描述
在这里插入图片描述

6 动手实战环节

在这里插入图片描述

创建开发机

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

新建虚拟环境

在这里插入图片描述
在这里插入图片描述

安装相关依赖

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

下载模型文件

本机有，可以先复制
在这里插入图片描述
在这里插入图片描述

  • internLM-7B
  • modelscope
  • huggfingace：sentence-transformer
  • nltk
  • punkt
  • tagger

搭建自己知识库

  • 克隆opencompass项目
    在这里插入图片描述
  • 构建向量数据库
    • 导入数据md，txt文件
    • 获取文件中的文本
    • 对文本进行分块
    • 词向量模型进行编码
    • 加载数据到向量库Chroma
    • 向量库保存到本地磁盘
      在这里插入图片描述
      在这里插入图片描述
      在这里插入图片描述

将InternLM接入LangChain

在这里插入图片描述

构建检索问答链

在这里插入图片描述

  • 加载词向量模型
  • 加载LLM模型
  • 定义Prompt 模板
    • 不懂的要回答说不知道，缓解幻觉问题
  • 运行chain

在这里插入图片描述

  • 存储检索问答链的对象
    在这里插入图片描述
    在这里插入图片描述

  • 实例化核心功能对象

  • gradio创建聊天机器人页面

执行代码

python web_demo.py

在这里插入图片描述
自己部署，知识库为kkndme关于房价的
Ib0bN.png
Ibknm.png
Ib6Tt.png
IbmRC.png

  • 注意：demo要在本地打开，不然显示界面乱码；本地打开需要进行端口映射

参考

收录于
书生·浦语大模型

当前文章被收录于：

书生·浦语大模型
7 篇文章 0 人学习

书生·浦语大模型

订阅专栏 查看详情
标签
#langchain #RAG #LLM #InternLM #AIGC
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
结构函数详解 C3M系列覆盖从1 kW到60 kW功率范围，器件Rdson低、开关速度快（Eon/Eoff低），支持高温工作（结温高达175–225°C）。型号电压 (V)Rdson (mΩ, 典型@25°C)电流 (A, 连续@25°C)封装类型典型应用功率 (kW)65012022TO-247-41–106506035TO-247-35–2065060355–2012002180TO-247-310–40120016100TO-247-420–601200。 阅读详情

相关推荐

大数据审计常用的算法模型

数据预处理：用聚类算法（K-Means）对数据分组，缩小分析范围；异常初筛：用孤立森林/DBSCAN快速标记疑似异常样本；风险分级：用随机森林/XGBoost对疑似异常打分，确定核查优先级；关联深挖：用FP-Growth挖掘异常样本背后的人员/流程关联；文本佐证：用BERT分析相关合同/审批文本，获取舞弊证据。例如，某审计项目通过“K-Means分组→孤立森林标异常→FP-Growth找关联→BERT审合同”的流程，仅用1周就完成了过去3个月需10人团队的工作量，且挖出2起隐藏的串标舞弊案。

Yulay专栏 1066

书生·浦语训练营-基于 InternLM 和 LangChain 搭建你的知识库

完成 LangChain 的自定义 LLM 子类之后，可以以完全一致的方式调用 LangChain 的接口，而无需考虑底层模型调用的不一致。由于不同类型的文件需要对应不同的 FileLoader，我们判断目标文件类型，并针对性调用对应类型的 FileLoader，同时，调用 FileLoader 对象的 load 方法来得到加载之后的纯文本对象。目录，将该脚本和后续脚本均放在该目录下运行。微调技术的优势在于能够利用预训练模型的通用知识，同时通过针对性的训练适应具体任务，提升模型在特定应用场景下的性能。

weixin_73902638的博客 1778

[基于STM32底盘控制与ROS上层导航小车制作] 第一节 stm32电机驱动与编码器读取反馈

系列文章目录 第一节stm32电机驱动与编码器读取反馈 第二节 stm32电机pid控制 第三节 stm32线速度标定 第四节 stm32添加mpu6050得到angle角度 第五节 实现STM32与ubuntu系统下的ROS串口DMA通信，传输底盘速度等信息 第六节 ROS计算和发布里程计 提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档 目录 系列文章目录 前言 1.pwm与电机正反转 2.编码器初始化 二、pwm控制与编码器使用 1.pwm使电机 .

LanLanLan1927的博客 1万+

基于 InternLM 和 LangChain 搭建知识库

llm.predict("你是谁")构建检索问答链，还需要构建一个 Prompt Template，该 Template 其实基于一个带变量的字符串，在检索之后，LangChain 会将检索到的相关文档片段填入到 Template 的变量中，从而实现带知识的 Prompt 构建。# 我们所构造的 Prompt 模板template = """使用以下上下文来回答用户的问题。如果你不知道答案，就说你不知道。总是使用中文回答。问题: {question}可参考的上下文：···{context}

weixin_45924641的博客 1764

论文阅读：Visual Relationship Detection with Language Priors

Visual Relationship Detection with Language Priors(ECCV2016) 文章   尽管大多数的relationship并不常见，但是它们的object和predicate却更频繁地独立出现。paper用这个insight分别独立训练训练object和predicate的模型，然后再进行组合来预测relationship。Visual relatio...

Kivee的博客 2877

具有I2S输出的多模数字麦克风ICS-43434咪头LR引脚接地或电源WS接LRCLK

ICS-43434 是一款数字 IS 输出底部收音孔麦克风。完整的 ICS-43434 解决方案包括 MEMS 传感器、信号调理、模数转换器、抽取和抗混叠滤波器、电源管理以及行业标准的 24 位 12S 接口。12S 接口允许 ICS-43434 直接连接到数字处理器，例如 DSP 和微控制器，而无需系统中的音频编解码器。

易板 5661

基于 InternLM 和 LangChain 搭建你的知识库

基于 InternLM 和 LangChain 搭建你的知识库

zcgai的博客 1927

[Dify] 实现“多知识库切换”功能的最佳实践

知识库切换是提升AI问答系统精准度的关键技术。本文介绍了Dify平台实现多知识库切换的三种方式：静态配置、元数据过滤和动态切换，分析了各自的优缺点。最佳实践建议包括：合理分库设计、意图分类、主库优先检索等。文章还提供了示例工作流程和注意事项，帮助构建更智能、精准的知识驱动型问答系统。通过合理切换知识库，可显著提升回答相关性和系统性能。

技术小甜甜：传播可落地技术，帮助个人和企业降低解决真实场景问题的成本 441

[书生·浦语大模型实战营]——基于 InternLM 和 LangChain 搭建你的知识库

llm.predict("你是谁")构建检索问答链，还需要构建一个 Prompt Template，该 Template 其实基于一个带变量的字符串，在检索之后，LangChain 会将检索到的相关文档片段填入到 Template 的变量中，从而实现带知识的 Prompt 构建。from langchain . prompts import PromptTemplate # 我们所构造的 Prompt 模板 template = """使用以下上下文来回答用户的问题。如果你不知道答案，就说你不知道。

qq_41776136的博客 1663

基于Cesium实现，动态水面+大坝排水动画

一、绘制面状水域，使用水波纹理，进行渲染，水体透明，可以看到底色。三、使用粒子系统，将喷泉改变方向，加上重力设置，实现排水动画。二、绘制线状三维体，用作模拟大坝拦截效果。四、最后，模拟水位上升，进行淹没分析，

一醉千秋的专栏 1418

Ceres&OpenCV 单目相机标定（论文复现）

Ceres&OpenCV 单目相机标定（论文复现）

dayuhaitang1的博客 366

书生·浦语大模型实战营：3.基于InternLM和LangChain搭建你的知识库

复现课程知识库助手搭建过程 (截图)选择一个垂直领域，收集该领域的专业资料构建专业知识库，并搭建专业问答助手，并在 OpenXLab 上成功部署（截图，并提供应用地址）环境配置，模型，代码下载同书生·浦语大模型实战营：2.轻松玩转书生·浦语大模型趣味 Demo LangChain相关环境配置 同时，需要使用到开源词向量模型：（我们也可以选用别的开源词向量模型来进行 Embedding，目前选用这个模型是相对轻量、支持中文且效果较好的） 首先需要使用 huggingface 官方提供的 huggingface

weixin_44288092的博客 1098

Visual Studio 2022+Qt6.5.3安装教程+环境配置+创建Qt项目+乱码插件+运行很完美(16岁孩子也能看懂)

Visual Studio 2022+Qt6.5.3安装教程+环境配置+创建Qt项目+乱码插件+运行很完美(16岁孩子也能看懂)

Qt历险记，专注Qt技术，三年医疗设备研发经验，1年机器视觉研发经验，半年柔性传感研发经验。 1188

大模型实战营第二期——3. 基于 InternLM 和 LangChain 搭建你的知识库

完成 LangChain 的自定义 LLM 子类之后，可以以完全一致的方式调用 LangChain 的接口，而无需考虑底层模型调用的不一致。demo所使用的数据考虑到版权等问题，选择由上海人工智能实验室开源的一系列大模型工具开源仓库作为语料库来源，包括：opencompass，lmdeploy，xtuner等。开源词向量模型 ，也可以选用别的开源词向量模型来进行 Embedding，目前选用这个模型是相对轻量、支持中文且效果较好的，也可以自由尝试别的开源词向量模型。另外，用到的词向量模型是。

啷个哩个啷 1681

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用，资源的后缀为tar.gz格式的压缩包

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等，可在创建的窗口进行控制

书生·浦语大模型实战营：3.基于 InternLM 和 LangChain 搭建你的知识库

llm.predict("你是谁")构建检索问答链，还需要构建一个 Prompt Template，该 Template 其实基于一个带变量的字符串，在检索之后，LangChain 会将检索到的相关文档片段填入到 Template 的变量中，从而实现带知识的 Prompt 构建。# 我们所构造的 Prompt 模板template = """使用以下上下文来回答用户的问题。如果你不知道答案，就说你不知道。总是使用中文回答。问题: {question}可参考的上下文：···{context}

qq_41819228的博客 1056

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表，创建专业级图表以简化复杂的信息。

书生·浦语大模型实战营笔记-第三节 基于 InternLM 和 LangChain 搭建你的知识库

介绍基于基于 InternLM 和 LangChain 搭建知识库的概念、思路和步骤LangChain是为LLM提供通用接口，用来简化开发流程核心组成模块是Chains：用于将组建组合实现端到端的应用下图展示了基于LangChain搭建RAG应用的步骤主要学习了大模型开发的RAG范式，并基于LangChain工具实现了一个检索问答的demo。

qq_46212981的博客 1366

文档：亲测可用解决vnc灰屏，黑屏，鼠标大黑叉情况

主要解决vnc-viewer灰屏，黑屏，鼠标大黑叉等现象，详细见文档。

基于 InternLM 和 LangChain 搭建你的知识库——笔记

llm.predict("你是谁")构建检索问答链，还需要构建一个 Prompt Template，该 Template 其实基于一个带变量的字符串，在检索之后，LangChain 会将检索到的相关文档片段填入到 Template 的变量中，从而实现带知识的 Prompt 构建。# 我们所构造的 Prompt 模板template = """使用以下上下文来回答用户的问题。如果你不知道答案，就说你不知道。总是使用中文回答。问题: {question}可参考的上下文：···{context}

YYYYbhjbhkv_的博客 1114

【大模型教程】基于 InternLM 和 LangChain 搭建知识库助手

在 InternStudio 平台中选择 A100(1/4) 的配置，打开开发机，打开终端开始环境配置，模型下载和运行demo。进入开发机后，进入conda环境。在本地的 /root/share/temp/model_repos/internlm-chat-7b 目录下已存储有所需的模型文件参数，可以直接拷贝到个人目录的模型保存地址 1.3 LangChain 相关环境配置 在已完成 InternLM 的部署基础上，还需要安装以下依赖包： 同时，使用到开源词向量模型 Sentence Transformer

zhishi0000的博客 1300

ch3-homework-基于InternLM和LangChain搭建自己的知识库

ch3-homework-基于InternLM和LangChain搭建自己的知识库

fangsfdavid的博客 945

大模型实战营Day3 基于 InternLM 和 LangChain 搭建你的知识库：作业

选择一个垂直领域，收集该领域的专业资料构建专业知识库，并搭建专业问答助手，并在 OpenXLab 上成功部署（截图，并提供应用地址）

qq_45898162的博客 1597

第三课作业-基于 InternLM 和 LangChain 搭建你的知识库

基础作业：复现课程知识库助手搭建过程 (截图)在已完成 InternLM 的部署基础上，还需要安装以下依赖包： 同时，我们需要使用到开源词向量模型 Sentence Transformer:（我们也可以选用别的开源词向量模型来进行 Embedding，目前选用这个模型是相对轻量、支持中文且效果较好的，同学们可以自由尝试别的开源词向量模型）首先需要使用 官方提供的 命令行工具。安装依赖: 然后在和 目录下新建python文件 ，填入以下代码： 下载 NLTK 相关资源我们在使用开源词向量模型构建开源词向

weixin_42035282的博客 1185

【书生·浦语大模型实战营03】《基于 InternLM 和 LangChain 搭建你的知识库》学习笔记

Keywords: RAG RAG: Retrieval Augmented Generation，检索增强生成。

墨门 1067

【书生·浦语大模型实战营】第3节：基于 InternLM 和 LangChain 搭建你的知识库（作业版）

【书生·浦语大模型实战营】第3节：基于 InternLM 和 LangChain 搭建你的知识库（作业版）

zhenzhu2882的博客 1177

【课后作业】3_基于 InternLM 和 LangChain 搭建知识库并在 OpenXLab上部署

课程资料来源：书生·浦语大模型实战营。

sxswz的博客 1312
上一篇： 利用GPU加速Milvus赋能LLM应用
下一篇： Python虚拟环境轻松配置：Jupyter Notebook中的内核管理指南
点赞 13
评论 0
书签 书签 8
uncle_ll
uncle_ll 领域专家: 人工智能技术领域 领域专家: 人工智能技术领域
博客等级 码龄13年 5863粉丝 946原创
+ 关注 专栏目录 订阅专栏
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

uncle_ll

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值