自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(2)
  • 收藏
  • 关注

原创 大模型微调——三阶段全流程训练分享(小白友好)

2. 自制数据集——使用Ollama本地部署的DeepSeek-R1-32B-Distill和DeepSeek-V3.2(deepseek-chat)API以及专利和文献文本资料制作得到。3)为了提高数据利用效率,根据训练模型时设置的cut_off_length(例如为32768)将长文本截断为多条数据,例如一个长文本的总长度为327680,则将该长文本截断为10条数据,总共得到1200条数据,每条数据的最大长度为32768。(专业数据中混入通用数据的目的,主要防止模型出现灾难性遗忘的问题)

2026-02-02 16:30:12 1233

原创 结合大语言模型理解强化学习基本概念

摘要:本文通过大语言模型(LLM)训练场景阐释强化学习核心概念。LLM作为智能体,通过生成token与环境(人类偏好标注)交互,获得即时奖励(偏好评分)并调整策略(token概率分布)。关键要素包括:状态(prompt+已生成文本)、动作(生成特定token)、策略(token选择概率)、奖励(人类评分)和回报(累积奖励)。整个过程符合马尔可夫决策过程框架,目标是优化策略使生成内容长期符合人类偏好。这种联系使强化学习在LLM训练中的应用更易理解。

2026-01-31 20:54:45 406

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除