自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(7)
  • 收藏
  • 关注

原创 在Docker上部署Dify

本文介绍了在CentOS7系统上使用Docker部署Dify AI平台的详细步骤。主要内容包括:1) Docker环境配置,包括卸载旧版本、安装依赖、设置阿里云镜像源;2) Dify项目部署,涉及环境变量设置、密钥文件挂载、缓存清理等关键操作;3) 常见问题解决方法,特别是SELinux权限问题和挂载目录配置。通过docker-compose命令启动11个容器服务后,用户可通过浏览器访问8080端口使用Dify平台。文章提供了完整的安装流程和问题排查指南,帮助开发者快速搭建AI应用开发环境。

2025-12-03 16:39:32 1408

原创 用Nacos管理Agent和MCP

本文介绍了如何利用Nacos 3.0+版本管理AI系统中的Agent和MCP服务。通过Docker部署Nacos服务,并演示了SpringBoot应用集成Nacos实现服务注册与发现的完整流程。主要内容包括:1)使用Docker-compose部署Nacos和MySQL;2)开发MCP Server实现时间服务并通过Nacos自动注册;3)构建MCP Client调用注册的MCP服务;4)开发自定义Agent并通过Nacos进行注册管理;5)实现Agent的查询和调用功能。文章提供了详细的配置代码和依赖说明

2025-10-25 17:17:28 1112

原创 上传大模型到魔塔社区

本文介绍两种将大模型上传到魔塔社区的方法。

2025-06-22 12:04:31 1798

原创 通过手写代码的方式,微调Qwen-7B-Chat模型

这可能是由于量化配置或混合精度训练设置的问题,所以需要将训练参数(training_args)中的fp16 = True , bf16=True。虽然目前市面上的LLM,都很厉害,知识面也很全了,但是针对某些特殊应用场景,比如公司业务流程,还不是很了解,所以就需要对大模型进行微调。首先,要确保预处理(preprocess_function)中的输入和目标数据在批次处理时保持一致,确保。硬件环境:显卡24G、8核心处理器、32G内存,建议使用魔塔社区提供的GPU环境。本文例子的处理方案是,将使用。

2025-05-15 21:29:57 682

原创 如何手写一个springBoot的starter

使用SpringBoot,可以快速帮我们搭建一个spring 应用,如果当前项目需要引入第三方的功能实现,我们只需要在当前项目的pom.xml文件中引入第三方的spring-boot-starter包。目前,springboot的社区,提供了很多第三方的spring-boot-starter,但有时候,我们还是需要根据自己项目的情况,编写满足项目需求的spring-boot-starter。在GitHub新建一个仓库,并把weather-service、weather-starter都上传到这个仓库中。

2025-05-13 16:08:32 1685

原创 如何在GitHub上创建Maven库

随着项目越做越多,有时候,就需要提取一些公共的工具jar、spring-boot-starter,但是总不能只把这些jar包放在Maven的本地仓库,万一,某天换了其他电脑开发项目需要用到这些jar包,就只能从原本的电脑Maven仓库,拷贝过来,很不方便;如果已经忘记了你上传到GitHub Maven jar的 groupId,可以在GitHub个人主页-》packages,点击packages,找到对应的jar,然后点击这个jar,就可以看到对应的groupId、artifactId、version。

2025-05-12 21:48:36 1363

原创 在魔塔社区上,微调大模型

微调AI大模型,要求非常高的电脑配置,特别是高配置的GPU,如果要使用个人电脑配置,那成本有点高,目前魔塔社区,为新用户提供了几十个小时高配置电脑的使用服务,话不多说,直接开始。

2025-04-18 22:01:23 3202 5

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除