在前面的文章,基本上把LLM的知识板块儿都介绍了一边,从中大家可以感受到LLM的有很多比较强大的能力。
- 大语言模型:LLM的基本原理解读
- 基于LLM构建应用程序:设计指南
- 大语言模型:LLM如何应用到实际的业务中
- 大语言模型:LLM的高阶应用「指令工程」
- 大语言模型:LLM的高阶应用「工具和插件」
- 大语言模型:LLM的高阶应用「模型微调」
- 基于LLM构建应用程序:9大注意事项
如果感觉还不错的话,欢迎关注“AI产品经理社”公众号,了解多精彩内容。
虽然大部分LLM平台都有开放的API接口,但是想要快速低成本的将LLM集成到自己的产品中,且拥有良好的扩展性和多LLM迁移能力,还是挺复杂的。
那有没有一种解决方案来低成本、高效能的解决LLM的集成问题呢?当然有,目前市场上应运而生的有很多基于LLM的开发框架,其中以LangChain最为出名。
作为本专题的最后一节,我们就来详细的介绍一下如何利用开源框架LangChain来快速实现LLM的应用开发
注意:由于LangChain在快速的迭代(几乎每今天就会有一个小版本发布),本节后半部分涉及到比较多的代码演示部分,不能保障后续能够完全正常跑起来,但是大体逻辑不会变化太大,如果有用到示例的地方,可结合示例参考LangChain官网最新文档。
LangChain官网:https://www.langchain.com
一、LangChain框架简介
LangChain是专用于开发LLM驱动型应用程序的框架,是用于不同LLM的通用接口。
LangChain的文档包含一份集成列表(如下图所示),其中涉许多LLM提供商,包括OpenAI,以及国内的月之暗面、通义千问等等,同时LangChain还支持自定义LLM,也就是说,未集成的LLM也可以使用LangChain来进行应用开发。大多数集成需要API密钥才能建立连接。
LangChain框架的核心包括以下几部分:
1、 Models
该模块是由LangChain提供的标准接口,你可以通过它与各种LLM进行交互。
2、 Prompts
提示词已成为LLM编程的新标准。该模块包含许多用于管理提示词的工具。
3、 Indexes
该模块让你能够将LLM与你的数据结合使用
4、 Chains
通过该模块,LangChain提供了Chain接口。你可以使用该接口创建一个调用序列,将多个模型或提示词组合在一起。