- 博客(10)
- 收藏
- 关注
RSS订阅原创 书生大模型实战营第四期-闯关挑战L1G5000 XTuner 微调个人小助手认知
对于 LoRA 或者 QLoRA 微调出来的模型其实并不是一个完整的模型，而是一个额外的层（Adapter），训练完的这个层最终还是要与原模型进行合并才能被正常的使用。模型转换的本质其实就是将原本使用 Pytorch 训练出来的模型权重文件转换为目前通用的 HuggingFace 格式文件，那么我们可以通过以下命令来实现一键转换。vscode自动帮完成了端口映射，直接进入网页。修改克隆下来的Tutorial仓库中。文件夹，复制官方写好的配置文件。这期来不及做了，下期一定！创建微调模型的软连接。
2024-12-30 16:20:31
896
原创 书生大模型实战营第四期-闯关挑战L1G4000 InternLM + LlamaIndex RAG 实践 任务记录
（我们也可以选用别的开源词向量模型来进行 Embedding，目前选用这个模型是相对轻量、支持中文且效果较好的。，由于需要避免在项目中储存API KEY，这里在原有的基础上简单地加上了API KEY输入和检测。通过llamaindex使用RAG后，浦语API成功认识了xtuner。，点击vscode弹窗自动配置端口映射，打开后询问得到结果。因为开发机没有魔法，这边直接在本地把项目做好上传了。可见目前本地部署的大模型不认识xtuner。为了完成这次的任务，我们解锁了更强的算力。运行时长： 默认8小时。
2024-11-27 09:19:56
804
原创 书生大模型实战营第四期-闯关挑战L1G1000 书生大模型全链路开源体系 任务记录
大海捞针实验：检验模型是否能在提供的一段非常长的背景知识中提取出仍和位置的仍和信息。工具-基准-榜单 三位一体。企业级知识库构建工具。
2024-11-15 10:11:40
238
原创 书生大模型实战营第四期-闯关挑战L1G3000 浦语提示词工程实践 任务记录
经过设计与调试，基于LangGPT格式编写了一套MBTI测试提示词，其中设定了工作流，以及给出了样例问题集，并鼓励模型尝试模仿泛化后提出测试问题，根据实际测验情况额外增加了一些限制。这组提示词对比我初期的尝试，成功防止大模型在计数中途将单词拼错的问题，并且能保障在默认设定有一定温度的情况下保持输出格式和输出结果稳定，同时提示词长度还比初期尝试缩短了一半。可以看到，大模型获得了逐一提出测试问题，并在最后分析得出结论并给出建议的能力，分析结果也相对较为准确。经过不断地调试，我最终试出了一组成功率极高的提示词。
2024-11-14 19:44:43
421
原创 书生大模型实战营第四期-闯关挑战L1G2000 玩转书生「多模态对话」与「AI搜索」产品 任务记录
我们可以看到智能体对这两个问题分别进行了处理并整合成了最终回答。我们先进的 InternVL 已经打败了落后的幻影坦克。尝试在向书生·浦语询问python关于协程的问题。可以看到，智能体将问题拆解为两个部分。
2024-11-12 14:49:57
287
原创 书生大模型实战营第四期-闯关挑战L0G3000 Git 基础知识 任务记录
每位参与者提交一份自我介绍。提交地址：https://github.com/InternLM/Tutorial 的 class 分支～命名格式为<id>.md，其中<id>是您的报名问卷UID。文件路径应为./icamp4/。【大家可以叫我】内容可以是 GitHub 昵称、微信昵称或其他网名。在 GitHub 上创建一个 Pull Request，提供对应的 PR 链接。
2024-11-08 14:05:36
569
原创 书生大模型实战营第四期-闯关挑战L0G2000 Python 基础知识 任务记录
``json\n{\n “model_name”: “书生浦语InternLM2.5”,\n “developer”: “上海人工智能实验室”,\n “parameter_versions”: [1.8B, 7B, 20B],\n “max_context_length”: 1000000\n}\n```想要的是“```json\n”与“\n```”之间的JSON字符串，对于大模型返回的markdown与json格式正确的回答，可尝试使用正则表达式提取，如果仍然出现格式错误，可进行异常处理。
2024-11-07 22:25:25
1793
2
原创 书生大模型实战营第四期-闯关挑战L0G1000 Linux 基础知识 任务记录
承接之前连接成功的VScode，使用“Ctrl+Shift+~”快捷键唤醒终端，点击PORTS -> 点击Add Port，输入7860创建该端口的端口映射。运行hello_world.py需要安装依赖包，给定环境中自带conda，先在conda中新建一个环境用于闯关任务。安装完成之后点击侧边栏的远程连接图标，点击 + 创建新的远程连接，在跳出的命令框中粘贴之前的SSH连接登录命令。点击复制登录命令，粘贴在本地控制台中并运行。点击复制密码，在本地控制台中粘贴密码以认证。在VScode中搜索安装SSH插件。
2024-11-07 11:55:30
1661
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人