
24暑期LM
文章平均质量分 56
一口派
拥抱有点难度的生活
展开
-
L1G3000
🌟 — 🚀。原创 2024-12-27 20:58:34 · 371 阅读 · 0 评论 -
L1-1 1.8b模型部署
创作300字的小故事。原创 2024-08-09 16:19:38 · 222 阅读 · 0 评论 -
暑期LM:L1-0 书生大模型全链路开源体系
虽然其他来源的数据量较小,但平均文档长度较长,内容质量较高。设计启发式过滤规则,清理数据中的低质量内容,如解析错误、格式错误和非自然语言文本,使用局部敏感哈希(LSH)方法进行模糊去重,采用域名封锁、关键词封锁、色情内容分类器和毒性分类器进行过滤。为了减少数据集中易难样本的不平衡影响,引入了难度衰减系数到排序损失函数中,并加入了对奖励分布的对数障碍惩罚,从而提高模型的鲁棒性和一致性。通过三轮在线RLHF的优化,COOL RLHF显著提高了模型在主观对话评估中的性能,增强了模型的可靠性和对人类偏好的适应性。原创 2024-08-07 16:08:18 · 336 阅读 · 0 评论 -
暑期LM: L0-1python基础
选择debugger时选择python debuger。选择debug config时选择remote attach就行,随后会让我们选择debug server的地址,因为我们是在本地debug,所以全都保持默认直接回车就可以了,也就是我们的server地址为localhost:5678。原创 2024-08-06 22:09:38 · 511 阅读 · 0 评论 -
暑期LM:L0-0端口映射
要理解端口映射所要解决的问题,首先要明确三个“电脑”:本地个人PC a,远程开发服务器 b,以及外网存储资源的服务器c当我们在b上运行web_demo程序时,可能会遇到ui加载不全的问题,这就是因为b访问c出现了代理问题,为了解决这个问题,我们将b中的端口进行映射,映射到本地的主机a,通过a来访问c上述命令的作用是:a通过b唯一暴露在外的40893端口进行ssh通信,告知b进行端口映射的隧道搭建,任何发送到a主机7860端口的流量,都会被ssh隧道转发到b主机127.0.0.1:7860端口处。原创 2024-07-29 22:27:09 · 265 阅读 · 0 评论