- 博客(4)
- 收藏
- 关注
RSS订阅原创 deepseek+AnythingLLM搭建自己的知识库大模型
什么是RAG:翻译为检索增强生成，nomic-embed-text模型是一个文本嵌入模型，目的帮助我们把知识库文本embedded成模型能读懂的格式，感兴趣的可以去学习一下自然语言处理相关知识。当部署完自己的本地deepseek后，我们想用自己的数据训练一下自己的模型，需要怎么做呢，本篇就来介绍一下我是怎么做的，还没安装的参考上一篇内容。选择一个deepseek模型，为了快，我选择的是1.5b，跑32b确实有些吃力，速度太慢了。可以选择上传文件，或者可以在下面的Fetch Website中输入网址。
2025-02-10 18:04:12
486
原创 ollama+本地部署deepseek
我们选择排名第一位的deepseek-r1,我本地的显卡为3090，显存24，内存64，尝试下载32b的模型。国内使用这种方式你懂的，慢的想自杀，所以建议使用第二种。直接把下载链接复制，使用下载器下载。接下来就是漫长的等待...
2025-02-08 17:55:54
258
原创 windows安装cuda与cudnn，本地部署deepseek必备环境
如过需要本地部署deepseek，让deepseek使用GPU资源，只需要安装完cuda就可以了，如果想训练神经网络模型，那必须要安装cudnn,后面会更新本地部署deepseek!把cuda里面的四个文件路径添加到环境变量就可以了。这样就搞定了，接下来搞cudnn!这步有时需要登陆，注册登录就好。装完在命令行窗口输入。
2025-02-08 14:40:16
770
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人