【Ollama+Cherry Studio】大模型本地化模型训练

1.本地化模型训练

承接上篇本地化部署,进行资料上传训练。包括一次性文件训练,和后续临时新文件训练。也包括加入智能体,加入知识库训练修正结果集
准备工作
在Cherry Studio文件下创建两个文件夹,一个gas文件夹,用于燃气行业数据训练,一个xtjc文件夹没用于系统集成文件训练。
gas文件夹
gas文件
xtjc文件夹
系统集成文件

1.1.单个文件上传训练

把需要训练用到的资料放入对应文件夹后,检查模型是否运行或者存住。

Ollama run deepseek-r1:14b

1.1.1.打开Cherry Studio的知识库,添加分类gas_8b(按照燃气行业和使用8b模型训练)。

在文件区域双击选择文件夹下面文件,开始上传训练资料。
训练资料
当右侧蓝点全部变成绿色打钩状态,说明上传完成。
上传完成

1.2.文件目录形式上传。

选择xtjc_14b的知识库,在目录行添加添加目录。选择Cherry Studio按照目录下新建的准备资料库xtjc文件夹。
系统集成目录
上传完成后,右侧变绿色打钩状态。说明上传完成。
到此步骤,模型训练准备阶段就完成了。接下来就是如何设置训练。

2.开始训练。

2.1.训练gas行业。

编辑默认助手,选择模型DeepSeek-r1:8b模型。
8b模型
窗体输入栏设置。
8b
@符号下选择DeepSeek-r1:8b。知识库选择gas_8b。
知识库选择
开始询问问题:看如何回答
回答

3.一次性完成后,后续有新的资料需要喂养,如何解决呢。

还是选择@符号模型,其次选择上传文档选项。浏览我们需要上传的新添加文件。
后续训练
回答如下后,因为我们只使用了这一个文件,所以回答的参考单一。
结果集合

3.1.加入智能体

接下来就是加入到我们知识库里面。
这样我们把上传文件删除了,但是痕迹却被我们保留了,等于丰富了知识库内容。
在这里插入图片描述

3.2.修正

如果回答的感觉不是很满意,怎么办呢,那我们对结果进行编辑修正。
添加如下描述

轴承的摩擦力大小:
气体粘度变化:

编辑修正
修正完成,我们再来问同样的问题,看看是什么回答。发现虽然在结果集虽然也是三条但是内容已经变化,分析过程已经加入考虑因素了。
修正后图解

### 实现 DeepSeek 模型本地化部署并集成 Cherry Studio 进行知识库导入 #### 准备工作 为了成功完成 DeepSeek 模型本地化部署以及与 Cherry Studio 的集成,需先确保环境满足最低硬件和软件需求。这通常涉及一台具有足够内存和支持 GPU 加速(如果可能的话)的工作站或服务器。 #### 部署 DeepSeek 模型 对于 DeepSeek R1 模型的本地部署,可以遵循官方提供的详细指南[^1]。此过程主要包括下载必要的依赖项和服务组件,配置网络参数,并启动相应的服务实例。具体来说: - **安装嵌入模型**:通过执行 `ollama pull nomic-embed-text` 命令来获取所需的文本嵌入模型[^3]。 ```bash ollama pull nomic-embed-text ``` 该命令会自动拉取最新版本的预训练模型到本地存储中,以便后续处理阶段可以直接调用这些资源来进行高效的自然语言理解任务。 #### 设置 Cherry Studio 并创建私有知识库 一旦完成了上述准备工作,则可转向 Cherry Studio 的设置环节。访问官方网站 (https://cherry-ai.com/) 下载客户端应用程序并按照提示完成安装流程。之后的操作重点在于构建个性化的知识体系结构——即所谓的“私人知识库”。 尽管在实际操作过程中可能会遇到一些挑战,比如上传文件生成知识库速度较慢的问题[^4],但这并不影响整体架构的有效性和实用性。针对这一情况,建议优化输入文档的质量控制措施或是探索其他更高效的数据源接入方式作为补充手段。 #### 整合两者功能实现交互应用 最后一步是要让这两个独立的部分能够协同工作。这意味着要建立从 Cherry Studio 到已部署好的 DeepSeek 模型之间的通信桥梁,使得前者所管理的知识条目可以通过后者得到智能化解析和利用。这种连接通常是借助 RESTful API 或者 WebSocket 协议等形式达成,在某些情况下也可能涉及到自定义插件开发以增强兼容性。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值