- 博客(13)
- 收藏
- 关注
原创 书生·浦语大模型实战营课程——作业7
我们使用 OpenCompass 来评测 internlm2-chat-1_8b 模型在 C-Eval 数据集上的性能。首先创建好相关环境,并拉取OpenCompass仓库。准备测评数据,数据解压至data文件夹下最后,启动测评,通过以下命令评测 InternLM2-Chat-1.8B 模型在 C-Eval 数据集上的性能正常情况应看到类似于如下的输出信息测评结束后,结果将会默认保存在output/default/当前时间 目录下,并且测评分数也会输出至命令行窗口上。
2024-04-28 15:14:43
246
原创 书生·浦语大模型实战营课程笔记(7)
1. 全面性要求2. 评测成本高,例如人工主观评测成本极高3. 数据污染4. 鲁棒性,例如大模型对提示词非常敏感。
2024-04-28 14:32:45
270
原创 书生·浦语大模型实战营课程——作业6
实现一个调用和风天气 API 的工具以完成实时天气查询的功能。首先创建工具文件,输入内容参见详细教程文档。然后登陆和风天气API帐户,创建项目,选择免费订阅,WEB API平台。下一步和上个任务一样,先启动LMDeploy服务和Web Demo,进行端口映射后打开浏览器窗口,配置入下图,可体验效果。详细操作请参加教程文档,本部分效果如下图。
2024-04-26 15:54:14
812
原创 书生·浦语大模型实战营课程——作业3
开发机终端输入 studio-conda -o internlm-base -t InternLM2_Huixiangdou创建环境。然后输入conda activate InternLM2_Huixiangdou 可切换至该环境。并且输入pip -r install requirements.txt 安装所需库文件。输入 conda env list 可以查看到已创建好的相关环境。文件中的默认模型、向量数据库模型、词嵌入模型。用开发机上已有模型的路径替换。聊天并进行知识问答——
2024-04-25 17:11:55
256
1
原创 书生·浦语大模型实战营课程——作业4
使用Adapter + 基座模型的方式进行对话测试,可以看出依旧出现了过拟合现象。在data文件夹中创建python文件,用于生成数据集,文件中输入下列内容。name可以改成自己所需要的内容,然后运行该py文件创建数据集。开始训练模型,可以看到第300轮训练后的测试效果。相应修改好config文件后,输入。但在第600轮的时候出现过拟合现象。创建一个文件夹以保存转换后的模型。可以创建一个文件夹存放所需数据。创建软链接,便于节省空间。拉取xtuner源代码。
2024-04-23 23:48:26
778
原创 书生·浦语大模型实战营课程——作业5
首先创建pipeline_transformer脚本,输入以下内容然后运行该脚本,得到下面的输出接下来使用LMDeloy加载对话模型,输入命令 lmdeploy chat /root/models/internlm2-chat-1_8b,加载完毕后与其互动。
2024-04-18 16:08:30
702
1
原创 书生·浦语大模型实战营课程——作业2
在一个美丽的森林里,住着一只聪明的小狐狸。有一天,小狐狸在森林里迷路了,它不知道该往哪个方向走,感到非常害怕。小狐狸决定跟着声音走,它发现了一个美丽的花园,里面有各种颜色的花朵和树木。在花园里,小狐狸看到了一只美丽的小鸟,它非常友好地向小狐狸打招呼。小鸟告诉小狐狸,这个花园是一个秘密的花园,只有那些有勇气和智慧的人才能找到它。小狐狸回到了森林,它告诉其他动物,这个秘密花园是一个值得探索的地方,它可以帮助那些需要帮助的人。从此以后,小狐狸变得更加勇敢和聪明,它帮助了许多需要帮助的人,成为了森林里的英雄。
2024-04-10 00:41:26
271
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人