- 博客(23)
- 收藏
- 关注
原创 【第四期书生大模型实战营基础岛】L1G6000——OpenCompass 评测
这样我们使用了 CMMLU Benchmark 的每个子数据集的 1 个样本进行评测.
2024-12-30 19:45:34
300
原创 【第四期书生大模型实战营基础岛】L1G5000——XTuner 微调个人小助手认知任务
对于 LoRA 或者 QLoRA 微调出来的模型其实并不是一个完整的模型,而是一个额外的层(Adapter),训练完的这个层最终还是要与原模型进行合并才能被正常的使用。对于全量微调的模型(full)其实是不需要进行整合这一步的,因为全量微调修改的是原模型的权重而非微调一个新的 Adapter ,因此是不需要进行模型整合的。,在使用前我们需要准备好三个路径,包括原模型的路径、训练好的 Adapter 层的(模型格式转换后的)路径以及最终保存的路径。表示转换后的 HuggingFace 格式文件的保存路径。
2024-12-30 19:41:23
1173
原创 【第四期书生大模型实战营基础岛】L1G4000——LlamaIndex+InternLM RAG 实践
(Retrieval Augmented Generation,RAG),就是通过引入的方式,给模型注入格外的上下文或者说外部信息,而不改变它的的权重(非fine-tuning方式)。如下图所示它能够让基础模型实现非参数知识更新,无需训练就可以掌握新领域的知识。本次课程选用了框架。LlamaIndex 是一个上下文增强的 LLM 框架,旨在通过将其与特定上下文数据集集成,增强大型语言模型(LLMs)的能力。它允许您构建应用程序,既利用 LLMs 的优势,又融入您的私有或领域特定信息。
2024-11-16 18:38:46
1287
原创 【第四期书生大模型实战营基础岛】L1G3000——浦语提示词工程实践
可以看到,使用LangGPT进行提示词工程后,相较于baseline,模型的回答表现出更加符合要求(女友)的风格,表达出温暖、体贴和理解的情感,让人有亲近感。表现出比baseline更高的性能。可以看到,使用LangGPT进行提示词工程后,相较于baseline,模型的回答在结构上更加有层次和连贯性,对于背景的设定也更加细致和完备,对于文字的描述更加引人入胜。表现出比baseline更高的性能。
2024-11-12 18:08:15
485
原创 【第四期书生大模型实战营基础岛】L1G2000——玩转书生「多模态对话」与「AI搜索」产品
回复链接: 最近大火的中国 3A 大作《黑神话·悟空》里有什么让你难忘的精彩故事情节?
2024-11-08 19:05:35
355
原创 【第四期书生大模型实战营基础岛】L1G1000——书生大模型全链路开源体系
大模型主要分为:专用模型和通用模型:针对特定任务,一个模型解决一个问题(目前的发展方向):一个模型应对多种任务和多种模态。
2024-11-08 19:03:16
422
原创 【第四期书生大模型实战营入门岛】L0G4000——玩转HF/魔搭/魔乐社区
下载速度跟网速和模型参数量大小相关联,如果网速较慢的小伙伴可以只尝试下载1.8b模型对应的config.json文件以及其他配置文件。创建好环境后,可以进入网页版VSCode的界面,这就是CodeSpace提供给我们的在线编程环境。创建好项目后,回到我们的CodeSpace,接着clone项目。完成验证后,点击create new token,创建一个类型为“Write”的token,新建一个hf_download_josn.py 文件,在这个文件中,粘贴以下代码。进行创建,在创建页面中,输入项目名为。
2024-10-27 18:39:05
409
原创 【第四期书生大模型实战营入门岛】L0G3000——Git 基础知识
将本项目直接fork到自己的账号下,这样就可以直接在自己的账号下进行修改和提交。配置git并克隆项目到InternStudio本地# 修改为自己fork的仓库,改为上图中你的https仓库的git地址,将random-zhou改为自己的用户名创建分支git checkout -b class_036 # 自定义一个新的分支#git checkout -b class_id 分支名字改为你的uid分支名称创建自己的介绍文件提交更改分支并提交到远程仓库git add .
2024-10-27 16:14:17
269
原创 第四期书生大模型实战营入门岛】L0G2000——Python 基础知识
可以使用顶部的debug面板的按钮来单步执行代码。这样,可以逐行运行代码,并查看每行代码执行后的效果。首先要安装Debug扩展,然后选择断点运行,可以看到每一步变量的变化,方便自己找到问题出在哪里。用哈希表的方法去做,统计不同元素出现的个数,看能否覆盖ransomnote中的变量。调用numpy函数,利用随机数生成一个array。首先用pip安装numpy库。
2024-10-26 15:17:12
302
原创 【第四期书生大模型实战营入门岛】L0G1000——Linux 基础知识
4、端口映射,这里是直接用VScode链接的,所以无需进行配置,直接可以运行hello_world.py,并打开返回的端口地址。创建虚拟环境,这里表示创建了python版本为3.10、名字为task000的虚拟环境。3、进入SSH开发机后,选择文件夹,在目录中可以生成相应的链接,方便下次直接进入该目录。2、复制ssh登录命令和密码,在本地VScode的SSH插件中与开发机进行远程链接。激活环境 task000,并安装部分库。1、首先选择开发机配置。
2024-10-26 14:37:29
503
原创 【InternLM训练营第二期-初夏】1. 书生·浦语大模型开源开放体系
大模型主要分为:专用模型和通用模型专用模型:针对特定任务,一个模型解决一个问题通用模型(目前的发展方向):一个模型应对多种任务和多种模态。
2024-05-22 16:01:07
564
原创 【LeetCode刷题记录4】数组——螺旋矩阵
方法一中要注意的是 每一圈的每一层,他一共需要填充多少个数(多少个j),每次填充的下标如何通过i,n,j来表示,比较麻烦。方法二对其进行的优化,使得下标都可以通过固定的规律来表示。我做这个题目就是先确定好圈,确定每圈的每一条边的指针的起始点以及移动次数,然后通过while不断缩小圈。
2024-03-23 20:59:47
233
原创 【LeetCode刷题记录3】数组——滑动窗口
1、适合寻找数组中符合条件的连续子数组2、一般用两个循环 外圈的while负责移动右指针,遍历更多的可能性。内圈的while判断左指针移动的条件,使得滑动窗口始终能满足题目条件。
2024-03-22 21:52:12
308
2
原创 【LeetCode刷题记录2】数组——移除元素(双指针法)
1、“把所有不重复元素进行保留” 可以通过双指针来实现:即定义两个指针left和right,right从左到右把所有元素扫一遍,将不重复的元素赋给left的下一位。2、"把给定数组里的元素按照一定要求进行增删查排等操作"也可以通过双指针来实现,主要是定义一个慢指针用来存满足条件的index,另一个快指针对每一个元素进行条件判断。
2024-03-20 22:35:34
389
1
原创 【LeetCode刷题记录1】数组——二分查找
""""""else:return midelse:return -1else:return midelse:i = mid +1return -1备注:没做出来,看了答案才发现最基础的做法是寻找双边界指针…
2024-03-20 19:19:21
239
1
原创 【论文阅读】多目标跟踪——Observation-Centric SORT: Rethinking SORT for Robust Multi-Object Tracking
(一)Title写在前面: 2023.03收录在CVPR上的一篇文章,CMU的作品。文章立意很新颖,从motion model这个角度切入,深入剖析了SORT中KF的先验条件(都是线性运动)与实际跟踪场景不匹配而产生的后果,在大家都在卷detection和re-id的时代,另辟蹊径,对motion model分析改进,并给出了大量的推导证明,并且最终也达到了SOTA。两个概念:“Estimation-Centric” & “Observation-Centric”三个局限性:S
2023-10-25 12:09:34
979
原创 【论文阅读】多目标跟踪—ByteTrackV2: 2D and 3D Multi-Object Tracking by Associating Every Detection Box
ByteTrackV2阅读笔记
2023-07-12 19:17:46
3680
3
原创 【论文阅读】强化学习—近端策略优化算法(Proximal Policy Optimization Algorithms, PPO)
PPO论文阅读笔记
2023-06-19 14:26:51
2222
1
原创 YOLO5+DeepSORT代码结构
(通过相应目标检测模型将视频中每一帧图片的检测结果(边框坐标及置信度得分)封装于 Detection类,此外该类包含了ReID模块提取的外观语义特征以及不同边框坐标形式转换方法)(将deepsort后得到的每一个框的id信息加入到 yolo的检测框上 ,这一步是属于检测器系列的)
2023-04-21 15:53:21
888
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅