Datawhale-动手学大模型应用开发-第四章心得

前言

本章包含了有关接入和使用大型语言模型(LLM)及构建相关应用的指南，详细如下：

1. LLM 接入 LangChain：

   • 介绍了如何使用LangChain快速接入并使用大型语言模型（LLM），包括ChatGPT和其他模型。
   • LangChain提供了一个开发框架，帮助开发者利用LLM的强大功能快速搭建应用。
   • 文档详细说明了如何配置和调用ChatGPT，包括API密钥的设置和使用方法。
   • 也探讨了使用提示模板（PromptTemplates）来精确控制模型输出的技术。

2. 构建检索问答链：

   • 讨论了如何使用向量知识库增强问答系统的效果。
   • 介绍了加载和利用向量数据库进行查询召回的过程。
   • 文档中涉及如何将检索到的信息整合并输入到LLM中以改进回答质量。
   • 解释了构建有效的提示（Prompt）的重要性以及如何设计这些提示来优化LLM的性能。

3. 部署知识库助手：

   • 介绍了如何使用Streamlit创建和部署一个用户界面(UI)，使LLM应用对用户友好且易于交互。
   • 文档涵盖了从基础的Streamlit使用到高级功能，如如何通过用户界面(UI)进行动态交互和提供连续的对话历史。
   • 探讨了如何将检索问答系统与历史对话功能结合，通过Streamlit部署在云端，使其可以全球访问。

此章为开发者提供了一系列工具和方法，用以构建、优化和部署基于大型语言模型的应用，特别是在处理和增强语言理解及生成任务方面。

关于“将LLM 接入 LangChain”与前面两部分的关联：

1. 使用 LLM API 开发应用主要涵盖了使用不同的 LLM API（如OpenAI, Baidu Wenxin等）进行应用开发的基本方法。这部分内容为开发者提供了如何直接与LLM进行交互的基础知识和技能。

2. 搭建知识库则着重于如何建立和管理一个知识库，以支持LLM的查询和数据检索需求，这为LLM提供了数据支持和背景信息，使得LLM可以提供更加精准和丰富的回答。

3. 构建 RAG 应用则是结合前两个部分的内容，进一步将LLM的功能和知识库结合，通过构建基于检索的生成模型（RAG），提升模型在具体问题上的表现。这一部分中的“将LLM 接入 LangChain”侧重于如何在LangChain的框架下，集成和使用LLM，实现定制化的应用开发。

在VSCode里基于LangChain调用ChatG