Dify快速搭建问答系统
简单记录下Dify系统的部署,以及可能遇到的各种问题,然后演示一下如何快速的搭建一个问答系统。
为什么用Dify
首先回答为什么用大模型的方案。在没有大模型之前,我们只能把问题和答案存储在数据库中,然后通过模糊检索的方式去检索问题。由于是模糊检索,所以检索的准确度可能不高,但是运用大模型的语义理解,就可以进一步的去理解问题,从而匹配到知识库里的内容。
然后为什么Dify,首先,这个是国产的,其次,这个可以私有化部署,而且是Apache2.0的协议,可以商用。这样做公司内部的应用就变得可行。
这个月Coze也开源了,但尚无稳定版本,而且刚开始的版本Bug还会有一些,所以也建议看一下Coze,对比下两个环境的差异。
Dify最近更新的也很频繁,到目前为止已经更新到了1.7这个版本,这个随笔也是围绕这个版本。
为了演示效果,我这里用的还是吃鸡游戏的场景,具体业务中可以替换成自己的实际场景。
此篇我用的是Macos系统,在Windows下部署也不会有太大的差异,主要是把WSL部署好,其它步骤不会差太多。
安装Docker
在MacOS下安装Docker Desktop相对简单些,直接官网下载安装包就可以。
需要注意的是Docker Desktop安装不会有任何问题,但后续的拉取可能会出现各种阻碍。
解决的方法是在docker desktop的Docker Engine的配置里,加入镜像配置。
以下是我自己用的配置。
{
"builder": {
"gc": {
"defaultKeepStorage": "20GB",
"enabled": true
}
},
"experimental": false,
"registry-mirrors": [
"https://registry.docker-cn.com",

最低0.47元/天 解锁文章
5890

被折叠的 条评论
为什么被折叠?



