文章介绍了一个名为闻达的LLM调用平台，该平台能为小模型接入知识库，增强其生成回答的能力。用户需下载模型文件，如chatglm-6b-int4和text2vec-large-chinese，将知识库文本放在txt文件夹下，运行python脚本处理数据，最后启动服务即可通过浏览器使用。
项目地址wenda-LLM/wenda: 闻达：一个LLM调用平台。为小模型外挂知识库查找和设计自动执行动作，实现不亚于于大模型的生成能力 (github.com)
git clone https://github.com/wenda-LLM/wenda.git
cd wenda
mkdir model
文件夹下放入俩模型
chatglm-6b-int4
text2vec-large-chinese 这两个自行下载
mkdir txt
把知识库放入这个文件夹下， 格式 就是 问:xxxx 答:xxxx
然后 python plugin/gen_data_st.py 运行命令把知识弄进去
然后 就可以运行了
nohup python wenda.py -t glm6b &
控制台会打印 访问端口，用浏览器打开就可以用了
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
