- 博客(3)
- 收藏
- 关注
原创 强化学习从入门到深入理解
近期deepseek在网上的新闻是满天飞,其中deepseek一个较大的特点就是实现了大规模稳定的强化学习训练,并且取得了较好的效果,使得模型出现理解能力的涌现。deepseek r1技术报告解读综合比较网上视频、各类网络资源,整理出一套相对通俗的理解方式,希望可以帮助大家更加深入的理解什么是强化学习,并且结合一定的代码帮助理解。本问主要还是理论层面的理解,但是我会尽量以通俗的方式讲解。
2025-02-20 18:28:52
919
原创 deepseek r1技术报告解读
在这个例子中,模型在推理过程中突然意识到可以“重新评估”之前的步骤,并尝试用一种新的方法来解题,这种思维与人类似,说明模型初步掌握了人类思维的推理能力(红色字体部分)。1,基于上述deepseek-r1-zero通过强化学习表现出的强大的推理能力,如果结合适当高质量的sft是否可以有更好的性能提升,并且有较好的可读性。1)将更强大的模型蒸馏成更小的模型会产生优异的结果,而本文提到的依赖于大规模强化学习的较小模型需要巨大的计算能力,甚至可能无法达到蒸馏的性能。
2025-02-11 17:47:10
1484
1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅