- 博客(9)
- 收藏
- 关注
RSS订阅原创 浦语Camp3:基础6-OpenCompass 评测 InternLM-1.8B 实践
确保按照上述步骤正确安装 OpenCompass 并准备好数据集后，可以通过以下命令评测 InternLM2-Chat-1.8B 模型在 C-Eval 数据集上的性能。在 --debug 模式下，任务将按顺序执行，并实时打印输出。除了通过命令行配置实验外，OpenCompass 还允许用户在配置文件中编写实验的完整配置，并通过 run.py 直接运行它。运行以下代码，在configs文件夹下创建。在 OpenCompass 中评估一个模型通常包括以下几个阶段：配置 -> 推理 -> 评估 -> 可视化。
2024-08-25 15:53:04
403
原创 浦语Camp3:基础4-Llamaindex RAG实践
正常情况下，其会自动从互联网上下载，但可能由于网络原因会导致下载中断，此处我们可以从国内仓库镜像地址下载相关资源，保存到服务器上。:（这个模型是相对轻量、支持中文且效果较好的，也可自由尝试别的开源词向量模型） 运行以下指令，新建一个python文件。运行以下命令，获取知识库,将xtuner的README.md传给模型。我们在使用开源词向量模型构建开源词向量的时候，需要用到第三方库。运行以下指令，新建一个python文件。可以成功解释xtuner是什么了！需要A100 30%内存！输入以下命令自动下载。
2024-08-24 23:25:51
371
原创 浦语Camp3:基础5-XTuner 微调个人小助手认知任务
模型合并：对于 LoRA 或者 QLoRA 微调出来的模型其实并不是一个完整的模型，而是一个额外的层（Adapter），训练完的这个层最终还是要与原模型进行合并才能被正常的使用。表示模式匹配，后面跟着的内容将会在所有的配置文件里进行模糊匹配搜索，然后返回最有可能得内容。比如我们这里微调的是书生·浦语的模型，我们就可以匹配搜索。模型转换：将原本使用 Pytorch 训练出来的模型权重文件转换为目前通用的 HuggingFace 格式文件。XTuner 提供多个开箱即用的配置文件，可以通过以下命令查看。
2024-08-24 21:39:04
502
原创 浦语Camp3:基础3-浦语提示词工程实践
本地进行端口映射：ssh -p {ssh端口，从InternStudio获取} root@ssh.intern-ai.org.cn -CNg -L 7860:127.0.0.1:8501 -o StrictHostKeyChecking=no。部署成功后，可以利用如下脚本调用部署的InternLM2-chat-1_8b模型并测试是否部署成功。创建项目，安装tmux(能够使得进程在后台运行)，用tmux创建窗口，用LMDeploy部署InternLM2-chat-1_8b模型。编写如下prompt输入。
2024-08-23 18:31:24
292
原创 浦语Camp3:基础2-8G 显存玩转书生大模型 Demo
使用 Cli Demo 完成 InternLM2-Chat-1.8B 模型的部署，并生成 300 字小故事，记录复现过程并截图。
2024-08-22 19:01:22
333
原创 浦语Camp3:基础1-书生大模型全链路开源体系
书生·浦语从去年开源免费商用的 InternLM-7B，模型,并发布全链路开源工具体系，再到后来的 InternLM-20B 以及 InternLM2、InternLM2.5。不断刷新开源模型的性能上限。
2024-08-20 22:15:39
826
1
原创 浦语Camp3:入门3-Git基础
因此使用命令来设置用户名和用户邮件git config --global user.name "Your Name" # 真实信息脱敏处理git config --global user.email "your.email@example.com" # 真实信息脱敏处理git add .输入后，需要填写自己的github用户名(username)和个人访问令牌(password)，填写完毕，就成功push到自己的Tutorial仓库了生成个人访问令牌(password)登录到你的GitHub账户。
2024-08-20 16:44:53
569
原创 浦语Camp3:入门2-Python基础
返回一个字典，key为单词，value为对应单词出现的次数。点击VSCode侧边栏的“Run and Debug”（运行和调试)，单击"create a lauch.json file"先在终端中发起debug server，然后再去vscode debug页面单击一下绿色箭头开启debug。Remote Debugging的IP和port分别选择默认的localhost和5678，直接回车即可。之后，debugger的选择为python debuger。
2024-08-20 15:20:27
321
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人