- 博客(6)
- 收藏
- 关注
原创 书生大模型训练营第3期-基础岛-第5关 XTuner 微调个人小助手认知任务
对于 LoRA 或者 QLoRA 微调出来的模型其实并不是一个完整的模型,而是一个额外的层(Adapter),训练完的这个层最终还是要与原模型进行合并才能被正常的使用。原本使用 Pytorch 训练出来的模型权重文件转换为目前通用的 HuggingFace 格式文件。微调成功,在这里模型已经把自己叫做Adam同志的助手了。配置文件的设置按照自己需求来,略。
2024-10-08 00:03:50
540
原创 书生大模型训练营第3期-基础岛-第4关 Llamaindex RAG实践
我虚构一个叫做PluggnDL的开源工具,在借助RAG后模型可以正确回答出这个工具的用途。
2024-10-07 23:42:43
304
原创 书生大模型训练营第三期-基础岛-第2关 8G显存玩转书生大模型Demo
然而,他突然想到了一个主意。他开始重新设计程序,使用新的算法和技术。经过一番努力,他终于成功地解决了这个难题。有一天,小明在编写一个程序时遇到了一个难题。他花费了很长时间才找到解决方法,但最终还是没有成功。他感到很沮丧,觉得自己很笨。有一个程序员名叫小明,他一直对编程充满热情。他喜欢挑战自己,不断尝试新的编程技巧。小明非常高兴,他意识到只要坚持不懈,就能克服任何困难。从此以后,他更加努力地学习和实践编程,不断提高自己的技能。这个小故事告诉我们,只要我们有热情和毅力,就能够克服困难,取得成功。
2024-10-07 23:36:14
405
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅