参考:Langchain-Chatchat + 阿里通义千问Qwen 保姆级教程 | 次世代知识管理解决方案 - 知乎 (zhihu.com)
该文档没有安装成功,安装成功的文档 可见:Langchain-Chatchat的安装过程-优快云博客
中文LLM生态观察
模型
就开源的部分而言,从一开始的MOSS[1] ChatGLM[2] ChatGLM2 [3] 到后来的 baichan [4] 基于LLama2 微调的 中文LLama2 [5] 再到最近开源的 通义千问 Qwen [6] 。 至于更多模型和相关评分榜单可以看一直在维护更新模型汇总的文章。

参考:大语言模型汇总索引帖(持续更新) - 知乎 (zhihu.com)
基于langchain的智能助手

其中比较突出的,之前我觉得是ChatGLM系列 ,不过现在我认为是最近开源的 Qwen 通义千问。
各家都有一个比较好的做法就是去适配一套和OpenAI gpt3.5一致的API 方便大家在测试和搭建不同模型时快速的切换,减少大量阅读接口文档的时间。

通义千问干脆直接默认API部署代码做成OpenAI API 格式

本文介绍了开源大语言模型如ChatGLM、Qwen通义千问的发展,以及基于Langchain构建的智能助手生态。重点讨论了如何适配统一API、LLM模型加载优化、向量数据库集成和WebUI服务的实现。同时,文章提到了部署过程中遇到的问题及解决方案,如CUDA版本兼容性问题。
最低0.47元/天 解锁文章
176

被折叠的 条评论
为什么被折叠?



