
开年我们部署了 DS 32B 蒸馏版并开放远程测试,就有朋友提到企业私有化部署的RAG场景,隔壁同事认为知识库、RAG等这些方向目前非常容易实现,但真正要变成企业AI工具还是一件非常细致的工作,有许多的产品或场景都是大厂在吆喝用户在观望。
技术部同事觉得我们能力尚浅,但部署一个开源RAG框架还是很容易实现,基于开源工具,在不做任何优化的前提下,目前基于DeepSeek的RAG体验到底如何?说着又搭了一个环境,大家可以扫个码找小编要链接。
部署环境
开源知识库框架:RAGFlow(感谢伟大的开源社区)
部署模型:DeepSeek-R1-32B FP16
硬件:4卡 RTX 5000 Ada 桌面工作站
实操视频
测试链接可后台私信获取,还可了解更多赞奇一体机产品。

最低0.47元/天 解锁文章
5950

被折叠的 条评论
为什么被折叠?



