Supervised Deep Learning with Auxiliary Networks

最新推荐文章于 2024-01-31 10:51:52 发布
原创 最新推荐文章于 2024-01-31 10:51:52 发布 · 1k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

【从RL到DRL】深度强化学习基础（五）离散控制与连续控制——确定策略梯度方法（DPG）、使用随机策略进行连续控制
Vulcan_Q的博客
10-22 1342
本文为深度强化学习基础的第五篇，介绍了从离散控制进阶到连续控制，分别介绍了确定策略梯度方法进行连续控制，以及使用随机策略进行连续控制
半监督学习(Semi-Supervised Learning, SSL)-简述及论文整理
不定期更新 Web 开发及机器学习相关博客
12-29 9524
SSL
3.0 SA-SSD辅助网络详述
weixin_38362784的博客
11-18 1197
本文主要结合源码，理解SA-SSD辅助网络的设计思想和实现原理。
SASSD
xinxiang7
02-20 1923
Structure Aware Single-stage 3D Object Detection from Point Cloud 文章：SA-SSD 代码：SA-SSD 这是来自香港理工大学和达摩院的一篇文章，一作是为在读的博士生，何晨航。通讯作者是张磊，香港理工大学的博导，目前在达摩院。华先胜达摩院的的人，也是为大牛。 Abstract 提出问题： 目前的单级探测器通过完全卷积方式逐步缩小三维点云是有效的。但是缩小特征不可避免的损失空间信息和无法充分利用3D点云的结构信息，降低了位置精度。 文章工作：
论文阅读：（GoogleNet）Going Deeper with Convolutions
qq_36627158的博客
01-28 721
目录 写在前面 简介 相关工作 动机 & High Level Consideration 稀疏连接 Hebbian Principe 稀疏矩阵的分解 filter bank的维度处理 结构细节 实现代码（PyTorch） GoogleNet 实现代码（PyTorch） 训练技巧 ILSVRC 2014 分类任务的结果 测试技巧 Things To Learn 论文名称：《Going Deeper with Convolutions》 论文链接...
一个模型搞定多个CTR业务！阿里STAR网络介绍(附代码实现)
Kaiyuan_sjtu的博客
11-06 7406
今天为大家带来阿里巴巴2021年的一篇文章：《One Model to Serve All: Star Topology Adaptive Recommender for Multi-Do...
【FAS Survey】《Deep learning for face anti-spoofing: A Survey》
bryant_meng
01-31 1610
PAMI-2022最新成果：https://github.com/ZitongYu/DeepFAS。
Meta-Learning in Neural Networks: A Survey元学习最新综述（翻译）
热门推荐
qq_38680752的博客
06-02 1万+
近年来，元学习领域，即“为学习而学习”，已经引起了人们极大的兴趣。与传统的人工智能方法不同，传统的人工智能方法是使用固定的学习算法从头开始解决给定的任务，元学习的目的是改进学习算法本身，考虑到多次学习的经验。这个范例提供了一个机会来解决深度学习的许多传统挑战，包括数据和计算瓶颈，以及泛化的基本问题。在这项调查中，我们描述了当代元学习的景观。我们首先讨论元学习的定义，并将其定位于相关领域，如转移学习、多任务学习和超参数优化。然后我们提出了一种新的分类方法，它提供了当今元学习方法的更全面的细分。我们综述了元学习
[WSIS] Weakly-supervised Instance Segmentation via Class-agnostic Learning with Salient Images
Ah丶Weii
05-19 842
1. Motivation 弱监督实例分割（WSIS） Weakly-supervised instance segmentation (WSIS) is important in computer vision for at least two reasons. Humans have a strong class-agnostic object segmentation ability and can outline boundaries ofunknown objects precisely.
Deep Reinforcement Learning : An Overview(Yuxi Li) 学习笔记
weixin_44412076的博客
03-14 4158
翻译的比较粗糙，仅供参考。 2.2 Deep Learning 深度学习与浅层学习形成对比。对于许多机器学习算法，如线性回归、逻辑回归、支持向量机(SVMs)、决策树和增强等，我们有输入层和输出层，在训练前可以用人工特征工程对输入进行转换。在深度学习中，在输入层和输出层之间有一个或多个隐藏层。在除输入层外的每一层，我们计算每个单元的输入，作为上一层单元的加权和;然后，我们通常使用非线性变换，或...
推荐系统遇上深度学习(一零七)-[阿里]使用统一模型进行多域CTR预估
abcdefg90876的博客
01-31 2258
今天给大家介绍的是阿里公开的一篇论文，主要介绍如何使用统一的模型在多domain进行CTR预估。论文标题为《One Model to Serve All: Star Topology A...
Semi-supervised Deep Learning for Fully Convolutional Networks文章解读
静静地玛尼石
10-27 1954
目前对FCN分割还没有半监督的方法，本文提出auxiliary manifold embedding的概念在随机特征内嵌的辅助下用于FCN的半监督学习，并且用已提出的方法对现有的MS lesion分割任务进行实验验证。 1 引言        在本文中，我们提出了auxiliary manifold embedding的概念到FCN中，这种新颖的策略叫做"随机特征嵌入"。随
浅谈弱监督学习（Weakly Supervised Learning）
idol24的博客
04-11 4004
来源：知乎—Lori地址：https://zhuanlan.zhihu.com/p/81404885之前看了周志华老师的《A Brief Introduction to Weakly Supervised Learning》，觉得大受启发，一直想动笔总结一下，今天终于来填坑了。机器学习在很多任务中取得了很大的成功。众所周知，在机器学习领域，学习任务可大致划分为两类，一种是...
Deep Learning for Weakly-Supervised Object Detection and Object Localization: A Survey
weixin_36670529的博客
02-27 2179
1、摘要 弱监督目标检测(WSOD)和定位(WSOL)，即使用图像级标签检测图像中包含边界框的多个或单个实例，是CV领域中长期存在且具有挑战性的任务。随着深度神经网络在目标检测中的成功，wssod和WSOL都受到了前所未有的关注。在深度学习时代，已有数百种WSOD和WSOL方法和大量技术被提出。为此，本文将WSOL视为WSOD的一个子任务，并对近年来WSOD的成就进行了全面的综述。具体来说，我们首先描述了世界sod的制定和设置，包括产生的背景、面临的挑战、基本框架。同时，总结和分析了提高检测性能...
Weakly Supervised Deep Detection Networks 学习笔记
qq_35408241的博客
10-24 2415
                                                    Weakly  Supervised  Deep  Detection  Networks 详细解读  论文大致意思是通过图像级的标注信息训练网络达到目标检测的目的，文中采用的方法如下图所示： abstract ：提出一种弱监督的深度检测架构，通过修改网络，只利用图像级别的标注，同时执行...
Weakly Supervised Deep Detection Networks 阅读笔记
shannanyinxiang的博客
09-12 8313
Weakly Supervised Deep Detection Networks 阅读笔记 Overall architecture   1. Existing network(such as AlexNet pre-trained on ImageNet） 2. SPP --> region level descriptor 3. (1) class score --> recogn
论文笔记：Weakly Supervised Deep Detection Networks
想变有趣的EMMA
02-28 5792
Weakly Supervised Deep Detection Networks 摘要：本文主要解决了大规模image-level的分类问题，可同时解决区域选择和分类问题。作为拖欠训练器来训练。引言 弱监督学习非常重要主要是由于以下两个原因，其一，图片理解的主要目的在于学习整体的复杂视觉环境（ImageNet比赛）；其二，CNN训练数据缺乏。因此，如果能够用上层信息来学习复杂的内容能够极大地
Top1的3D目标检测方法（已开源）
3D视觉工坊
08-04 3587
点击上方“3D视觉工坊”，选择“星标”干货第一时间送达一、SA-SSD在bird's eye view任务中，效率与精度并存的SA-SSD论文：http://www4.comp....
基于CNN的短文本分类实验 PPT
accomolate的专栏
03-18 6000
基于卷积神经网络的短文本分类实验，在搜狐新闻上取得了不错的分类效果，但情感分析的效果很差，需要继续改进。
Semi-supervised classification with graph convolutional networks
最新发布
03-14
### 图卷积网络在半监督分类中的应用 #### 半监督学习背景 半监督学习是一种利用少量标注数据和大量未标注数据来提高模型性能的学习范式。对于许多实际应用场景而言，获取大规模高质量的标注数据成本较高，因此半监督学习成为一种重要的解决方案。 #### 图卷积网络的核心思想 图卷积网络（Graph Convolutional Network, GCN）通过将传统的卷积操作推广到图结构上，能够有效地处理具有复杂关系的数据集。其核心在于如何定义适用于图结构的卷积运算，并将其应用于节点特征的学习过程[^1]。 具体来说，《Semi-Supervised Classification with Graph Convolutional Networks》提出了基于谱图理论的方法，通过对拉普拉斯矩阵进行局部一阶近似，实现了高效的前向传播算法。这种方法不仅保留了图结构的信息，还能够在计算效率方面取得良好的平衡[^2]。 #### 谱图卷积及其简化形式 原始的谱图卷积依赖于傅里叶变换，在频域中完成滤波器的设计与应用。然而，这种做法通常涉及复杂的矩阵分解操作，难以直接扩展至大型稀疏图。为了克服这一局限性，论文引入了一种切比雪夫多项式的近似方式，进一步减少了参数数量并提升了运行速度[^3]。 最终得到的形式化表达如下所示： \[ H^{(l+1)} = \sigma(\tilde{D}^{-\frac{1}{2}}\tilde{A}\tilde{D}^{-\frac{1}{2}} H^{(l)} W^{(l)}) \] 其中 \(H^{(l)}\) 表示第 l 层隐藏层的状态；\(W^{(l)}\) 是权重矩阵；而 \(\tilde{A}=A+I_N,\tilde{D}_{ii}=\sum_j{\tilde{A}_{ij}}\) 则分别代表增广邻接矩阵以及对应的度数矩阵[^4]。 此更新规则体现了两方面的特性：一方面它融合了来自邻居节点的影响；另一方面允许逐层调整特征表示的空间维度大小。 #### 应用实例 该框架被成功验证于多个标准基准测试任务之上，比如Cora、Citeseer 和 Pubmed 文献引用网络数据集。实验结果显示相比于其他传统方法或者简单的多层感知机架构，采用GCNs能显著提升预测精度的同时保持较低的时间开销。 ```python import numpy as np from scipy.sparse import csr_matrix from sklearn.preprocessing import OneHotEncoder def preprocess_adjacency(adj): """Preprocess adjacency matrix.""" adj_normalized = normalize_adj(adj + sp.eye(adj.shape[0])) return sparse_to_tuple(adj_normalized) class GraphConvLayer(tf.keras.layers.Layer): def __init__(self, input_dim, output_dim, activation=tf.nn.relu, **kwargs): super(GraphConvLayer, self).__init__(**kwargs) self.W = tf.Variable(initial_value=tf.random.normal([input_dim, output_dim]), trainable=True) self.activation = activation def call(self, inputs): features, support = inputs pre_sup = dot(features, self.W, sparse=False) output = dot(support, pre_sup, sparse=True) return self.activation(output) if self.activation is not None else output ``` 上述代码片段展示了构建基本图形卷积层的过程，其中包括必要的预处理步骤以及自定义Keras层的具体实现细节。 ---
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值