- 博客(8)
- 收藏
- 关注
RSS订阅原创 玩转书生·浦语趣味 Demo学习笔记（二）
LagentLagentLagent打开lagent路径下文件，修改需要使用的模型进行本地端口映射，已经做过很多次这里不再赘述，细节见浦语·灵笔2浦语·灵笔2浦语·灵笔2是基于书生·浦语2浦语·灵笔2浦语·灵笔2浦语·灵笔2-7B书生·浦语2-7BGPT-4VGemini Pro建立好本地端口映射，细节见结果如下：牛，以后直接实现写文章自由。至此Demo跑通shut down刚才运行的并重新启动一个新的terminal，继续输入指令，启动确保本地端口映射依然正常，打开结果如下：Demo跑通。
2024-06-10 22:57:07
371
原创 OpenCompass大模型测评实战学习笔记
评测意义：研究评测对于我们全面了解大型语言模型的优势和限制至关重要；研究评测有助于指导和改进人类与大型语言模型之间的协同交互；研究评测可以帮助我们更好地规划大型语言模型未来的发展；评测能了解不同语言模型之间的性能、舒适性和安全性，能够帮助人们更好地选择适合的模型。如何通过评测促进模型发展：评测中的面临挑战：如何评测：按模型类别不同划分评测：基座模型、公开权重的开源模型、对话模型、API模型按评测方式：客观评测与主观评测提示词工程将题目变得更加丰富，然后再进行推理或者评测。
2024-06-07 08:00:00
777
原创 XTuner 微调个人小助手认知学习笔记
XTuner数据引擎数据处理流程：原始问答对——>格式化问答对——>可训练语料多数据样本拼接，增加并行性，充分利用GPU资源Flash Attention和DeepSpeed ZeRO是XTuner最重要的两个优化技巧：Flash Attention 将 Attention 计算并行化，避免了计算过程中 Attention Score NxN的显存占用（训练过程中的 N 都比较大）
2024-06-03 16:57:49
1268
原创 茴香豆：搭建你的RAG智能助手学习笔记
RAG（Retrieval Augmented Generation）是一种结合了检索（Retrieval）和生成（Generation）的技术，旨在通过利用外部知识库来增强大型语言模型（LLMs）的性能。它通过检索与用户输入相关的信息片段，并结合这些信息来生成更准确、更丰富的回答，解决LLMs在处理知识密集型任务时可能遇到如幻觉、知识过时和缺乏透明、可追溯的推理过程等挑战。
2024-05-31 02:23:45
2374
原创 玩转书生·浦语趣味 Demo学习笔记（一）
打开设置应用，点击“应用”（Apps），在左侧栏中点击“可选功能”（Optional features），向下滚动并点击“添加功能”（Add a feature），在搜索框中输入。下面步骤指导我们安装OpenSSH，不过给的步骤在我Win10电脑有出入，总结就是方向对了，步骤并不完全适用所有用户电脑：按下。这里密码有个难受的点是，示例老师是直接点击复制并粘贴到PowerShell中的，在本地我并未成功。能够以较低的训练成本达到不错的角色模仿能力，同时低部署条件能够为后续工作降低算力门槛。
2024-05-29 15:09:02
1837
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人