- 博客(9)
- 收藏
- 关注
原创 XTuner 微调个人小助手认知学习记录(InternLM)
进行模型格式转换,转为hugging face 格式。修改streamlit脚本文件启动应用并进行访问对话。准备一个数据集文件并准备用脚本方式生成文件。对配置文件进行修改,这里我是直接复制过来。执行脚本生成数据文件,但发生一点小错误。创建目录存放Xtuner源代码。查看一下Xtuner help。查看Xtuner内置配置文件。将微调模型与原模型进行整合。创建10%A100开发机。激活网页端查看微调前效果。复制一个预设的配置文件。创建目录存放微调资料。查看树形结构确保无误。查看目录结构确保无误。
2024-10-05 19:28:11
264
原创 InternLM + LlamaIndex RAG 实践学习记录(InternLM)
新建python文件运行,取得使用RAG技术后的答案,可以看到效果变化。新建python文件部署模型运行,提问xtuner是什么,效果并不好。现在用streamlit进行图形化部署,下载包。将InternLM2 1.8B软链接出来。安装LlamaIndex词嵌入向量依赖。最后还是推荐一下书生浦语大模型实战营。安装Llamaindex和相关包。下载第三方库NLTK相关资源。web图形化部署结果。
2024-10-04 21:49:02
173
原创 浦语提示词工程实践学习记录(InternLM)
tmux创建新的窗口并进入激活环境并部署模型。进入开发机创建环境并下载相关依赖。创建项目路径进入,并下载tmux。退出窗口连接测试模型是否部署成功。
2024-10-04 16:01:41
177
原创 8G 显存玩转书生大模型 Demo 学习记录(InternLM)
尝试进阶任务:InternLM-XComposer2-VL-1.8B 模型的部署,首先构建环境。还是could not create share link,到这已经放弃了,很可惜也很遗憾。不认输,查阅了csdn相关问题,用了两三种方法,最后是按照这个进行调整重新部署。用streamlit部署让其介绍自己并生成300字小故事。部署运行大模型让其自我介绍并生成300字小故事。尝试它所给的方法,并重新部署,显存爆了。创建目录并建立编写demo程序。最后还是推荐书生大模型实战营。
2024-10-03 22:01:12
453
原创 书生大模型全链路开源体系学习记录(InternLM)
2024.01.17] 发布了 InternLM2-7B 和 InternLM2-20B 以及相关的对话模型,InternLM2 在数理、代码、对话、创作等各方面能力都获得了长足进步,综合性能达到开源模型的领先水平。[2024.08.01] 发布了 InternLM2.5-1.8B、InternLM2.5-1.8B-Chat、InternLM2.5-20B 和 InternLM2.5-20B-Chat。合成数据融合多种方式:基于规则的数据改造、基于模型的数据扩充、基于反馈的数据生成。
2024-10-03 15:49:40
1281
原创 Git基础知识学习记录(InternLM)
创建了破冰介绍的md文件,在git add 后进行git commit发现错误,尝试设置git config解决。查阅相关问题解决办法并更改vscode内git terminal authentication选项。创建并进入camp3_2048分支(这里我还没发现分支名字有要求,随便取的2048)憨憨终于发现分支名字有要求,更改并重新push一遍。成功commit但无法push上去并遇到如图问题。构建个人项目并推荐了InternLM(更改后成功跳转并push成功。
2024-10-02 20:37:00
389
原创 Python基础知识学习记录(InternLM)
在下载debugpy后解决问题,成功debug。发现用的是示例,改成要求的文本又debug一遍。最后推荐一下书生大模型实战训练营。开始远程debug发现连接不上。早期人类远程debug珍贵影像。配置远程debug json。本地实现wordcount。
2024-10-02 20:17:15
130
原创 linux基础知识学习记录(InternLM)
登陆上远程开发机添加hello_world.py。运行发现没有gradio,pip下载。整本地ssh key,发现之前整过。vscode添加ssh主机。下载完后运行在本地URL。最后推荐一下书生训练营。打开网页查看运行情况。
2024-10-02 19:42:31
213
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人