- 博客(21)
- 收藏
- 关注
翻译 SwinMM
大规模视觉 transformer 在获取大量的预训练数据方面面临着显著的挑战,特别是在医学领域。为了解决这一限制,我们提出了带有Swin transformer的遮罩多视图(SwinMM),这是一种新的多视图管道,用于实现准确和数据高效的自监督医学图像分析。我们的策略通过结合两个主要组成部分来利用多视图信息的潜力。在预训练阶段,我们部署了一个屏蔽多视图编码器,旨在通过一系列不同的代理任务并发训练屏蔽多视图观测值。
2024-02-24 20:13:38
255
翻译 基于经验风险最小化的领域泛化的实证研究--NIPS2021
最近的研究表明,使用经验风险最小化(ERM)训练的深度神经网络可以在分布移位下进行泛化,优于专门的领域泛化训练算法。本文的目的是进一步了解这一现象。特别是,我们研究了Ben-David等人(2007)的开创性的领域适应理论在多大程度上解释了ERM 的表现。也许令人惊讶的是,我们发现这个理论并没有提供一个严密的解释,在三个流行的领域泛化数据集上训练的大量 ERM 模型中观察到的域外泛化。这促使我们研究其他可能的方法——尽管缺乏理论——来解释这种情况下的泛化。
2024-02-20 19:09:30
335
翻译 论模型不变性与泛化的强相关性--NIPS 2022
论模型不变性和泛化的强相关性。文章主要提出了一个模型不变性的度量方式 EI,并通过实验说明了 EI 优于 JS 散度。最后通过多个在测试集上的实验说明了 EI 与泛化性之间的强线性相关性。
2024-01-25 11:16:53
220
翻译 域泛化--综述,2023 IEEE TPAMI Domain Generalization: A Survey
一篇关于OOD泛化的综述文章,自己学习过程的一个记录
2024-01-22 15:11:25
2310
4
原创 matplotlib.pyplot 多次保存图片重叠等问题
遇到的问题1.Pytorch Tensor 写入 txt 文件(或输出)时出现了省略号2.将 Numpy array 转为 torch 中 Tensor3.Torch的 conv2d 与 Tensorflow 的 conv2d 用法区别总结参考博客
2024-01-20 21:03:02
982
原创 基于PDE的图像分割
基于偏微分方程的图像分割比较常见的用于图像分割的 PDE 模型有蛇(Snake)模型、测地线活动轮廓模型(Geodesic activate contour, GAC)和 CV 模型。以下介绍这三种模型以及它们对应的梯度下降流。一、蛇模型蛇模型的方程为E(C(p))=∫01α∣Cp(p,t)∣+β∣Cpp(p,t)∣2−λ∣∇I(C(p))∣dpE(C(p))=\int_0^1\alpha |C_p(p,t)|+\beta |C_{pp}(p,t)|^2-\lambda |\nabla I(C(p)
2023-04-23 18:23:55
771
原创 图像分割的传统方法及实现--基于区域的分割方法
如果图像中的对象对应的灰度值接近于某一常数 C1 的分布区域,而背景的灰度值又接近另一常数 C2,且 C1, C2 差别够大,此时可以用二值化对图像进行分割。d′255d > T0d
2023-04-23 10:38:19
1132
原创 图像分割的水平集方法
在图像分割的传统方法中,基于偏微分方程的方法在众多方法中效果显著。但PDE方程的求解不易,因此有学者针对图像分割的 PDE 开发了水平集方法。本文主要从理论的角度理清水平集方法的来龙去脉,为实际方程中应用水平集方法提供理论支持。
2023-04-23 10:17:20
511
原创 决策树--一种常见的机器学习算法
一般的,一棵决策树包含**一个根节点**, **若干内部节点** 和 **若干叶子节点**。 **叶子节点** 对应决策结果,其他每个节点对应一个 **属性测试**(即判定一次基于这个属性对现有数据如何分类决策)。每个节点包含的样本集合根据属性测试结果被分到对应节点中。**根节点** 包含样本全集。**目的**: 决策树学习的目的是产生一棵泛化能力强的决策树。
2022-10-05 16:32:13
215
翻译 Python学习记录之数学函数、算数运算符、字符串、列表
系列文章目录提示:这里可以添加系列文章的所有文章的目录,目录需要自己手动添加例如:第一章 Python 机器学习入门之pandas的使用提示:写完文章后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录系列文章目录一、Python基本知识1.编程中会遇到的错误及help函数2.数据类型3.变量命名从键盘获取输入二、python中的数学函数**常见的数学函数如下:****math模块中 的一些标准数学函数和常量****设置数字格式** :format(数,格式)三、算数运算符优先级表四、字符串
2022-02-28 18:53:24
696
原创 DenseNet 学习记录
densenet-121 网络分解# -*- coding: utf-8 -*-"""Created on Thu Sep 2 14:08:03 2021从这个网址复制下来的 Densenet 的实现代码,实现过程比较清晰https://github.com/flyyufelix/DenseNet-Keras/blob/master/densenet121.py@author: Lenovo"""from keras.models import Modelfrom ker
2021-09-23 11:02:05
109
原创 TensorFlow 卷积计算函数理解
tensorflow中用于卷积操作的函数主要为 tf.nn.conv2d,为了自己做的记录函数定义tf.nn.conv2d (input, filter, strides, padding, use_cudnn_on_gpu=None, data_format=None, name=None)参数说明input:输入待被卷积的张量,具体格式为 [batch, in_height, in_width, in_channels] , 这里 batch 是一次处理几个 in_height, in_w
2021-09-01 21:11:56
335
原创 Xavier初始化
文章题目:Understanding the difficulty of training deep feedforward neural networks原文链接:Xavier初始化补充几种初始化全0初始化在线性回归,logistics回归的时候,基本上都是把参数初始化为0,模型也能够很好的工作。然后在神经网络中,把w初始化为0是不可以的。如果全部初始化为0,在神经网络第一遍前向传播所有隐层神经网络激活值相同,反向传播权重更新也相同,导致隐层神经元没有区分性,称为“对称权重”现象。如果所有的参数都
2021-08-29 22:27:30
7133
原创 期刊论文和会议论文辨别
期刊论文和会议论文辨别记录写在前面期刊论文在这里找到了别人写的汇总这些好像是论文数据库会议论文插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出参考写在前面最近写毕设整理参考文献很费时间,这里对期刊论文和会议论文做个区别,以便以后使用。期刊论文期刊论文引用格式为(以LeCund 的LeN
2021-06-06 19:23:15
4853
2
翻译 tf.one_hot()使用说明
@tensorflow学习笔记tf.one_hot本文只作为个人学习记录,参考tensorflow中文官网 tf中文官网调用格式tf.one_hot(indices, depth, on_value=None, off_value=None, axis=None, dtype=None, name=None)参数说明· indices :一个索引的张量。· depth : 定义one_hot 维度的标量· on_value: 定义一个填充输出的值,其中indices[j] = i(默认:
2020-11-24 21:43:16
833
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人