在Dify中实现联网检索功能(模拟DeepSeek)

跟着上一篇博客:Error response from daemon: Get “https://registry-1.docker.io/v2/“: request canceled while的解决办法-优快云博客

DeepSeek发布之后,感觉联网检索功能变成标配了。这篇博客简单介绍一下怎么在Dify中配置初步的联网检索功能,主要用了SearXNG,其实有很多朋友都总结过了:

本地部署DeepSeek R1+Dify+SearXNG:联网智能体-优快云博客

实操部署DeepSeek,添加私有知识库_docker部署deepseek-优快云博客 

但是上面两篇博客都有点小问题,我这里总结一下:

首先

SearXNG的配置文件位于

dify/api/core/tools/provider/builtin/searxng/docker/settings.yml

这个是没错的,但是第一篇博客把启动docker的命令行写错了,应该是在Dify根目录下运行

docker run --rm -d -p 8081:8080 -v "${PWD}/api/core/tools/provider/builtin/searxng/docker:/etc/searxng" searxng/searxng

第二篇博客是对的,但是把端口搞错了,应该是启动之后访问:

http://localhost:8081 或者 http://192.168.1.80:8081(我的本机地址是1.80),因为上面这个命令已经做过端口映射了!

其次,如果没有科学上网的话,很多国外引擎我们是访问不了的,这时候就需要改一下上面的配置文件(以免很多超时访问影响效率),在engines部分:

engines:

  - name: duckduckgo
    engine: duckduckgo
    shortcut: ddg
    disabled: true

把肯定用不到的engine禁掉,只留下Bing。然后需要重启一下SearXNG:

docker ps

然后把SearXNG对应的Container stop,例如:

docker stop 25dfee47e345

然后再运行第一个命令重新启动就行了,这时候再搜索的话就会快很多。但是还是发现有一个问题,按道理来说是访问bing的API,可为啥很多情况下返回的都是zhihu的页面,知乎充值了?这个问题也得慢慢解决。

剩下的内容大家参考之前列出的网页就可以基本实现了,先简单总结这么多。

### 如何配置 Ollama 进行 DeepSeek-R1 模型的在线训练 #### 准备工作 为了能够顺利地配置并使用 Ollama 来进行 DeepSeek-R1 模型的在线训练,需先完成环境准备。这包括但不限于安装必要的软件包和服务。 确保已经按照官方指南完成了 Dify 和 Ollama 的安装,并启动了 `ollama` 服务[^1]: ```bash ollama serve ``` #### 获取模型 接着获取所需的 DeepSeek-R1 模型版本。对于较低硬件配置的情况,可以选择较小规模的模型变体,例如7B参数量的版本,在 RTX2060 显卡上也能正常运行[^3]: ```bash ollama run deepseek-r1:7b ``` 此命令会自动下载大约4GB大小的模型文件,默认存储路径位于系统的 C 盘根目录下。 #### 设置训练环境 目前公开的信息主要集中在如何部署和调用预训练好的 DeepSeek-R1 模型,而有关于具体的在线微调或继续训练指导相对较少。不过基于一般的大规模语言模型训练流程以及现有资料推测,可能涉及以下几个方面的工作: - **数据集准备**: 收集适合目标任务的数据集,并将其转换成适用于模型输入格式。 - **调整超参数**: 根据实际应用场景设定合理的批量大小(batch size)、学习率(learning rate)等关键参数。 - **编写训练脚本**: 利用支持框架(如 PyTorch 或 TensorFlow)构建自定义训练循环逻辑,同时集成 Ollama 提供的相关接口用于加载基础模型权重及保存更新后的状态。 值得注意的是,上述操作假设读者具备一定水平的技术背景知识,特别是熟悉 Python 编程语言及其生态系统内的常用工具库;另外还需要了解基本的概念和技术细节关于大规模机器学习项目开发周期管理等内容。 由于涉及到较为复杂的工程实践环节,建议参考官方文档或其他社区资源进一步深入研究特定主题领域内最佳实践经验分享文章。
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值