火烧径-make life easier

学习如何用embedding优化搜索，即通过语义来搜索（在给定一段输入文本的情况下检索语义相似的文本），而非传统的基于关键词分词的搜索。

目前Bard还没有全部切换为Gemini Pro模型，但是作为程序员，已经不需要等待可以直接调用Gemini Pro的接口了。谷歌这次开发者优先的做法值得点赞，Google AI Studio用起来也很方便。而且，对于国内的开发者来说，最重要的一点是使用Gemini Pro接口是完全免费的，不再需要费尽心思搞什么虚拟卡、礼品卡充值，你甚至可以在生产环境调用接口，只是谷歌可能会加上Rate限制。

本文会来讨论基于文本的客服聊天机器人的设计方法，如何安全地构建和部署客服聊天机器人，先从一个内部使用的聊天机器人开始。

用LangChain来完成大语言模型的应用原型/代理很简单，但是，要交付实际的大语言应用异常困难：可能要大量定制、迭代Prompt、链和其他组件。LangSmith可以帮你快速调试链、代理或者一组工具，可视化各种组件（链、llms、检索器retrievers等）如何交互及使用，评估不同的Prompts等等。

不管人工智能是否能取代开发人员，都建议你现在开始接触AI辅助编程工具。我推荐你从尝试GitHub Copilot和Cursor开始。

本次我们会基于RAG的原理，通过LangChain来实现与pdf文档对话。

要实现一个简单的“看图说话”，要如何做呢？可以分两步：1. 通过开源的模型，让开源模型识别图片的内容，生成一句话文本描述；2. 让大语言模型针对文本描述生成一个简短的小故事。

我们今天会深入了解什么是代理，如何创建和使用代理，如何使用不同类型的LangChain内置工具：数学工具、维基百科工具、搜索引擎等，当内置的工具不能满足时，如何创建自己的工具，这样就可以让代理与任何数据存储、接口或者功能进行互动。

在本篇中，我们会讨论如何评估基于LLM的应用程序，同时介绍一些帮助评估的工具，最后还介绍了开发中的评估平台。

兼听则明，偏信则暗。大语言模型里面的数据是相对“静止”的，如何让大语言模型跟最新的、完全没训练过的数据结合，装上梦想的翅膀，是基于大语言模型开发的常见问题。这其中，文档问答系统是一种常见的用LLM构建的复杂应用程序。给定一段来自PDF、网页或者企业内部文档库的文本，我们能否使用LLM来回答关于这些文档内容的问题，帮助用户深入了解并获取他们想要的信息？习惯了ChatGPT的人都很难抵挡开发这样一套系统的诱惑。

在LangChain中，chain（链）是最关键的构建模块，可以被视为 LangChain 中的一种基本功能单元。链将大语言模型与提示词结合在一起。通过链的机制，可以将链模块组合在一起，对文本和其他数据按顺序进行操作。

此情可待成追忆，只是当时已惘然。我们人类会有很多或美好或痛苦的回忆，有的回忆会渐渐模糊，有的回忆午夜梦醒，会浮上心头。然而现在的大语言模型都是没有记忆的，都是无状态的，大语言模型自身不会记住和你对话之间的历史消息。根本用不着“时时勤拂拭”，天然就是“本来无一物”。每一次的请求交互、api调用都是独立的，完全没有关联。那些聊天机器人看起来有记忆，是因为借助代码的帮助，提供历史消息作为和LLM对话的上下文。嗯，就跟我们大脑不太够用了，要拿小本本或者打开Obsidian/Notion/语雀……来查找一样。

本次会讲解LangChain的三个基本组件：模型、提示和解析器。

LangChain于2022年10月作为一个开源项目由Harrison Chase启动，当时他在机器学习初创公司Robust Intelligence工作。该项目很快人气飙升，Twitter上的讨论热度高涨，项目的Discord服务器活动频繁，YouTube涌现很多教程，还在旧金山和伦敦举办了很多聚会。通过对大语言模型使用提示（Prompt），现在开发AI应用的难度已经大大降低，开发的速度也更快。但是一个AI应用程序可能需要对一个大语言模型多次写Prompt，并且对大语言模型的输出进行解析。