Langchain-Chatchat学习

本文介绍了开源大语言模型如ChatGLM、Qwen通义千问的发展,以及基于Langchain构建的智能助手生态。重点讨论了如何适配统一API、LLM模型加载优化、向量数据库集成和WebUI服务的实现。同时,文章提到了部署过程中遇到的问题及解决方案,如CUDA版本兼容性问题。

参考:Langchain-Chatchat + 阿里通义千问Qwen 保姆级教程 | 次世代知识管理解决方案 - 知乎 (zhihu.com)

该文档没有安装成功,安装成功的文档 可见:Langchain-Chatchat的安装过程-优快云博客

中文LLM生态观察

模型

就开源的部分而言,从一开始的MOSS[1] ChatGLM[2] ChatGLM2 [3] 到后来的 baichan [4] 基于LLama2 微调的 中文LLama2 [5] 再到最近开源的 通义千问 Qwen [6] 。 至于更多模型和相关评分榜单可以看一直在维护更新模型汇总的文章。

参考:大语言模型汇总索引帖(持续更新) - 知乎 (zhihu.com)

基于langchain的智能助手

其中比较突出的,之前我觉得是ChatGLM系列 ,不过现在我认为是最近开源的 Qwen 通义千问。
各家都有一个比较好的做法就是去适配一套和OpenAI gpt3.5一致的API 方便大家在测试和搭建不同模型时快速的切换,减少大量阅读接口文档的时间。

通义千问干脆直接默认API部署代码做成OpenAI API 格式

### 如何开始学习 LangChain-Chatchat LangChain-Chatchat 是基于大模型构建对话应用的一个框架,对于初学者来说,掌握这一工具能够极大地提升开发效率并简化复杂流程。为了有效地开启这段旅程,建议遵循一个结构化的学习路径。 #### 学习路线规划 了解基础概念是任何技术栈学习的第一步。针对 LangChain-Chatchat 的特性,应该先熟悉其背后的理论支持以及应用场景[^1]。这不仅有助于理解该库的设计初衷,也能更好地把握其实现细节。 #### 获取官方文档和支持材料 访问官方网站获取最新版本的安装指南和API说明是非常重要的一步。通常情况下,开发者会在这里找到详细的配置选项、函数定义及其用法实例。此外,GitHub仓库中的README文件也提供了丰富的背景信息和技术指导。 #### 实践操作项目 通过动手实践来巩固所学的知识是最有效的途径之一。可以从简单的例子做起,比如创建一个基本聊天机器人原型;随着技能的增长逐渐挑战更复杂的任务,如集成第三方服务或优化性能表现。社区贡献者分享的各种案例研究也是不可多得的学习素材。 #### 加入交流社群 参与线上论坛讨论或是加入特定兴趣小组可以接触到更多志同道合的朋友,在遇到难题时获得及时的帮助。同时这也是紧跟行业发展动态的好方法,因为很多前沿话题往往最先出现在这些地方被探讨开来。 ```python from langchain import Chatchat # 初始化Chatchat对象 chatbot = Chatchat() # 设置参数 params = { 'temperature': 0.7, 'max_tokens': 50 } response = chatbot.generate(text="你好", params=params) print(response) ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值