- 博客(7)
- 收藏
- 关注
原创 在Docker上部署Dify
本文介绍了在CentOS7系统上使用Docker部署Dify AI平台的详细步骤。主要内容包括:1) Docker环境配置,包括卸载旧版本、安装依赖、设置阿里云镜像源;2) Dify项目部署,涉及环境变量设置、密钥文件挂载、缓存清理等关键操作;3) 常见问题解决方法,特别是SELinux权限问题和挂载目录配置。通过docker-compose命令启动11个容器服务后,用户可通过浏览器访问8080端口使用Dify平台。文章提供了完整的安装流程和问题排查指南,帮助开发者快速搭建AI应用开发环境。
2025-12-03 16:39:32
1408
原创 用Nacos管理Agent和MCP
本文介绍了如何利用Nacos 3.0+版本管理AI系统中的Agent和MCP服务。通过Docker部署Nacos服务,并演示了SpringBoot应用集成Nacos实现服务注册与发现的完整流程。主要内容包括:1)使用Docker-compose部署Nacos和MySQL;2)开发MCP Server实现时间服务并通过Nacos自动注册;3)构建MCP Client调用注册的MCP服务;4)开发自定义Agent并通过Nacos进行注册管理;5)实现Agent的查询和调用功能。文章提供了详细的配置代码和依赖说明
2025-10-25 17:17:28
1112
原创 通过手写代码的方式,微调Qwen-7B-Chat模型
这可能是由于量化配置或混合精度训练设置的问题,所以需要将训练参数(training_args)中的fp16 = True , bf16=True。虽然目前市面上的LLM,都很厉害,知识面也很全了,但是针对某些特殊应用场景,比如公司业务流程,还不是很了解,所以就需要对大模型进行微调。首先,要确保预处理(preprocess_function)中的输入和目标数据在批次处理时保持一致,确保。硬件环境:显卡24G、8核心处理器、32G内存,建议使用魔塔社区提供的GPU环境。本文例子的处理方案是,将使用。
2025-05-15 21:29:57
682
原创 如何手写一个springBoot的starter
使用SpringBoot,可以快速帮我们搭建一个spring 应用,如果当前项目需要引入第三方的功能实现,我们只需要在当前项目的pom.xml文件中引入第三方的spring-boot-starter包。目前,springboot的社区,提供了很多第三方的spring-boot-starter,但有时候,我们还是需要根据自己项目的情况,编写满足项目需求的spring-boot-starter。在GitHub新建一个仓库,并把weather-service、weather-starter都上传到这个仓库中。
2025-05-13 16:08:32
1685
原创 如何在GitHub上创建Maven库
随着项目越做越多,有时候,就需要提取一些公共的工具jar、spring-boot-starter,但是总不能只把这些jar包放在Maven的本地仓库,万一,某天换了其他电脑开发项目需要用到这些jar包,就只能从原本的电脑Maven仓库,拷贝过来,很不方便;如果已经忘记了你上传到GitHub Maven jar的 groupId,可以在GitHub个人主页-》packages,点击packages,找到对应的jar,然后点击这个jar,就可以看到对应的groupId、artifactId、version。
2025-05-12 21:48:36
1363
原创 在魔塔社区上,微调大模型
微调AI大模型,要求非常高的电脑配置,特别是高配置的GPU,如果要使用个人电脑配置,那成本有点高,目前魔塔社区,为新用户提供了几十个小时高配置电脑的使用服务,话不多说,直接开始。
2025-04-18 22:01:23
3202
5
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅