- 博客(46)
- 收藏
- 关注
RSS订阅原创 多模态大模型系列解读
在过去的一年中，多模态大型语言模型 (MM-LLM) 取得了长足的进步，通过经济高效的训练策略增强了现成的 LLM 以支持 MM 输入或输出。由此产生的模型不仅保留了 LLM 固有的推理和决策能力，而且还支持各种 MM 任务。 在本文中，我们提供了一项全面的调研并总结，旨在促进对 MM-LLM 的进一步研究。
2024-08-05 17:35:52
1498
原创 深度学习遇到梯度无法反传？看这些方法就够了！
Straight-Through Estimator (STE)Gumbel-SoftmaxReinforceConcrete / Relaxed SoftmaxContinuous RelaxationsTemperature AnnealingDifferentiable ArgMax
2024-03-21 12:37:32
834
2
原创 通俗易懂地理解Gumbel Softmax
我在学习《》的过程中，听到朱老师讲到了GroupViT中用到了gumbel softmax（），于是我带着好奇心试图想去了解gumbel softmax是什么，最后我把我的理解写成这篇文章，但是目前我在工作中还没用到gumbel softmax，所以如果有说得不对的地方，欢迎指正。
2023-09-25 00:37:54
1844
原创 一文搞懂域泛化、域适应、few-shot、zero-shot、open-world、open-vocabulary
域泛化是一种机器学习任务，旨在让模型在不同于训练数据的新领域（或域）中进行泛化。这意味着模型在未见过的领域中也能表现良好，而不仅仅在训练时使用的领域中表现好。
2023-09-23 11:54:40
5122
1
原创 三分钟透彻理解Python中的@staticmethod和@classmethod
这篇博文主要讲解以下问题：@classmethod和@staticmethod在Python中是什么意思，它们有何区别？我应该在何时使用它们，为什么要使用它们，以及如何使用它们？@classmethod告诉一个类，这是一个应该被子类继承的方法，或者某种程度上是这样。然而，这样做的目的是什么呢？为什么不直接定义类方法，而不添加@classmethod、@staticmethod或任何@定义呢？
2023-09-15 17:52:45
7297
原创 Shape Correspondence谱方法
XYnxnyΦx∈Rnx×kΦy∈Rny×kFx∈Rnx×cFy∈Rny×cAΦx⊺Fx∈Rk×cBΦy⊺Fy∈Rk×cCxy∈Rk×kCxyargminCEdataCλEregC,Edata∣∣CA−B∣∣2EregCxyΠyx。
2023-04-06 21:19:04
222
原创 Vscode Debugging 变量解释及查询
Visual Studio Code支持Debugging和Task配置文件中的变量替换，以及一些选择设置。这些变量如。而且这些变量应用的非常普遍，然而我们一直无法准确知道这些变量在运行中到底表达什么含义，如果能在调试的时候将他们输出打印出来，就会能够更好的配置我们的项目。
2023-04-04 21:59:03
2232
原创 高斯分布(Guassian Distribution)建模不确定度(Uncertainty)问题
For uncertainty problem, Gaussian Distribution is all you need!
2022-09-22 19:58:15
2157
2
原创 Pytorch Parallel KeyError Bug
报错：Traceback (most recent call last): File "train_point_corr.py", l
2022-04-08 23:50:38
673
转载 [Repost]Python 中下划线的 5 种含义
转载自：Python 中下划线的 5 种含义PEP 8 — the Style Guide for Python Code
2022-02-26 12:08:44
140
原创 Github进行fork后如何与原仓库同步
Github进行fork后如何与原仓库同步在你 fork 之后， SamsungLabs（原仓库）的仓库又更新了，但 github 不会自动帮你把SamsungLabs的仓库同步给你 fork 后的仓库，导致你提交 pull、request 时的版本和SamsungLabs的版本不一致。Github进行fork后如何与原仓库同步呢？最省事的办法可能是：在你fork的仓库setting页翻到最下方，然后delete这个仓库；然后重新fork SamsungLabs 的仓库，并 git clone 到你的本
2022-02-22 12:34:39
2730
原创 Channel Attention 通道注意力
通道注意力总结SE-Net:Squeeze-and-Excitation NetworksCBAM: Convolutional Block Attention ModuleECA-Net: Efficient Channel Attention for Deep Convolutional Neural NetworksEPSANet: An Efficient Pyramid Squeeze Attention Block on Convolutional Neural NetworkFcaNet: F
2021-10-21 21:15:00
33388
转载 [Repost]pytorch中的.Tensor、.tensor、.from_numpy、.as_tensor区别
转载自：pytorch中的.Tensor、.tensor、.from_numpy、.as_tensor区别
2021-09-01 11:45:56
222
原创 卡尔曼滤波跟踪的相关概念与方程推导
卡尔曼滤波跟踪的相关概念与方程推导 直接从数学公式和概念入手来考虑卡尔曼滤波无疑是一件非常枯燥的事情。为了便于理解，我们仍然从一个现实中的实例开始下面的介绍，这一过程中你所需的预备知识仅仅是高中程度的物理学内容。 假如现在有一辆在路上做直线运动的小车（如下所示），该小车在 t 时刻的状态可以用一个向量来表示，其中pt 表示他当前的位置，vt表示该车当前的速度。当然，司机还可以踩油门或者刹车来给车一个加速度ut，ut相当于是一个对车的控制量。显然，如果司机既没有踩油门也没有踩刹车，那么ut就等于0。此
2021-08-08 11:41:24
391
原创 盘点表示学习(Representation Learning)发展中的逻辑
Logic in Representation Learning基于负例的对比学习：以SimCLR为例Batch之外：以MocoV2为例基于对比聚类的对比学习：负例隐身术以SwAV为例对比学习(Contrastive Learning) 是判别式自监督学习的一种，不依赖标注数据，要从无标注图像中自己学习知识。通过自动构造相似实例和不相似实例，要求习得一个表示学习模型，通过这个模型，使得相似的实例在投影空间中比较接近，而不相似的实例在投影空间中距离比较远。而如何构造相似实例，以及不相似实例，如何构造能够遵循
2021-07-27 01:57:27
758
原创 半监督学习总结
半监督学习 Semi-supervised Learning简介半监督深度学习无标签数据预训练，有标签数据微调利用从网络得到的深度特征来做半监督算法Make Network work in semi-supervised fashionPseudo-Label : The Simple and Efficient Semi-Supervised Learning Method for Deep Neural NetworksSemi-Supervised Learning with Ladder Netw
2021-07-18 20:49:29
989
转载 [Repost]PyTorch、显卡、CUDA、CUDA Toolkit、cuDNN如何对应
转载学习自：理清GPU、CUDA、CUDA Toolkit、cuDNN关系以及下载安装
2021-07-09 11:08:49
664
原创 CUHK MMLab 3D点云目标检测框架 OpenPCDet个人学习记录
OpenPCDet个人学习记录项目地址数据处理kitti_dataset.py的理解项目地址Github地址： https://github.com/open-mmlab/OpenPCDet史少帅博士本人对OpenPCDet的描述可以参看这篇文章：OpenPCDet: Open-MMLab 面向LiDAR点云表征的3D目标检测代码库数据处理kitti_dataset.py的理解...
2021-06-24 22:56:47
1925
原创 一文读懂计算机视觉坐标系相机参数关系及相机标定
计算机视觉坐标系关系及相机标定坐标系关系世界坐标系(World Coordinate)相机坐标系(Camera Coordinate)坐标系关系世界坐标系(World Coordinate)由于摄像机与被摄物体可以放置在环境中任意位置，这样就需要在环境中建立一个三维直角坐标系，来表示相机和被摄物体的位置，这个坐标系就称为世界坐标系相机坐标系(Camera Coordinate)相机坐标系也是一个三维直角坐标系，原点位于镜头光心处，X，Y轴分别与像平面的两边平行，Z轴为镜头光轴，与像平面垂直..
2021-06-05 00:46:15
3195
6
原创 3D目标检测论文方法汇总 【持续更新中~
Automanous-3D-detection-methods 该项目地址为：https://github.com/LittleYuanzi/awesome-Automanous-3D-detection-methods 该项目主要在对近期（17年）开始的自动驾驶场景的目标检测...
2021-05-31 09:49:02
7895
8
转载 [Repost] Focal Loss理解
Focal Loss理解对于其中的α\alphaα取0.25反而降低了正样本权重的解释：通过一系列调参，得到α=0.25,y=2\alpha=0.25,y=2α=0.25,y=2(在他的模型上)的效果最好。注意在他的任务中，正样本是属于少数样本 也就是说， 本来正样本难“匹敌”负样本，但经过(1−y^)γ(1-\hat{y})^\gamma(1−y^)γ和y^γ\hat{y}^\gammay^γ的“操控”后，也许形势还逆转了，还要对正样本降权。不过这样的调整，只是经验结果，理论上很难有一个指导方案来
2021-05-18 23:00:31
355
原创 Linux服务器系列操作(个人麻瓜笔记)
Linux服务器使用小手册*这个文章主要用于记录个人使用Linux服务器时的一些命令或trick删除文件rm -rf /var/log/httpd/access将会删除/var/log/httpd/access目录以及其下所有文件、文件夹解压zip压缩文件解压到当前文件夹先用‘cd’进入对应的文件夹，然后使用代码unzip zipped_file.zip则zipped_file.zip文件将会被解压到当前文件夹解压到指定文件夹unzip zipped_file.zip -d
2021-04-26 22:41:55
404
原创 查看Pytorch版本以及是否支持GPU加速
查看Pytorch版本import torchprint(torch.__version__)>>> 1.4.0 #这里便是torch版本查看Pytorch是否支持GPU加速import torchprint(torch.__version__)>>> 1.4.0 #这里便是torch版本
2021-04-26 20:10:13
3754
转载 [Repost]最远点采样(Farthest Point Sampling)介绍
转载学习自:最远点采样(Farthest Point Sampling)介绍
2021-04-14 10:25:36
585
原创 torch.nn.Conv1d图文解析
nn.Conv1d 一维卷积解析对于一维卷积，我们可能以为是一个一维的卷积核在一条线上做卷积，但是这种理解是错的，一维卷积不代表卷积核只有一维，也不代表被卷积的feature也是一维。一维的意思是说卷积的方向是一维的。Example:conv1 = nn.Conv1d(in_channels=256,out_channels = 100, kernel_size = 2)input = torch.randn(32, 35, 256)# batch_size x text_len x embedd
2021-04-13 09:31:05
1997
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人