「Deep Learning」Note on Deep Structured Prediction

最新推荐文章于 2020-03-31 21:17:01 发布
最新推荐文章于 2020-03-31 21:17:01 发布
阅读量418 收藏
点赞数
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/dgyuanshaofeng/article/details/83660000
本文探讨了结构化预测能量网络（SPENs），一种深度学习与图模型结合的方法，用于解决复杂结构化预测问题。文章介绍了SPENs的基本概念，对比了传统深度网络与图模型的结合方式，并详细描述了模型的构建思路。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

QQ Group: 428014259
Sina Weibo：小锋子Shawn
Tencent E-mail：403568338@qq.com
http://blog.youkuaiyun.com/dgyuanshaofeng/article/details/83660000

作者：Colin Graber, Ofer Meshi, Alexander Schwing
单位：University of Illinois at Urbana-Champaign, Google

0 摘要

1 介绍

提及结构化预测能量网络（structured prediction energy networks, SPENs）

2 相关工作

图 1

结构化预测
深度势能
如图1(a)(b)所示是我们熟悉的两种深度网络和图模型结合的方式，(a)为第一步进行深度网络训练和测试，第二步在预测结果上，加上CRF进行结构化inference；(b)为将图模型思想（结构化建模）以神经网络计算层的形式加入到深度网络中，这类的研究非常多，可翻一翻sifei liu的工作。
自回归模型
结构化预测能量网络如图1©所示。

3 模型描述

[1] Deep Structured Prediction with Nonlinear Output Transformations NIPS 2018 [paper]

DTEO1345
关注
A Survey on Deep Learning Techniques Applied to medical image analysis
AI天才研究院
08-13 500
作者：禅与计算机程序设计艺术 Introduction:Deep learning techniques have recently gained popularity in medical image analysis because they are capable of accurately identifying disease markers without relying on human intervention, enabling better decision-making and tre
Relational inductive biases, deep learning, and graph networks（关系归纳偏差、深度学习和图形网络）
weixin_41697507的博客
07-15 5196
Relational inductive biases, deep learning, and graph networks Peter W. Battaglia1, Jessica B. Hamrick1, Victor Bapst1, Alvaro Sanchez-Gonzalez1, Vinicius Zambaldi1, Mateusz Malinowski1, Andrea Tacche...
结构化预测(structured prediction)
Hard Working
10-31 7484
下面介绍一下结构化预测(structured prediction)的概念以及常见的参数学习方法： 1.概念： 结构化预测(structured prediction)是由SVM发展而来的。SVM是一种最大间隔(max-margin)的方法，最擅长处理二分类问题，后来也被用于处理多分类问题。SVM的优点在于有很好的理论基础，即它的泛化能力很强。它的缺点在于1）训练复杂度高；2）不能用于预测结构
结构化预测(structured prediction) *
u014765410的博客
10-14 2839
结构化预测(structured prediction)
结构预测瀑布（Structured prediction cascades）
超神冉
08-24 1212
也是很久没有看跟deep不相关的论文了，而且本身对图模型也不是特别的熟悉（虽然上过课，但是也是基本上忘的差不多。） 读这篇Structured prediction cascades是因为我的qualifying exam。我们这qualifying exam是给你assign一篇非你领域内的论文，然后给你一个月时间，然后做个关于这个paper的presentation。理论上他可以问任何跟这篇...
什么是结构化预测？ what is structured prediction problems?
qq_34650787的博客
05-03 1575
参考文章 https://www.cs.utah.edu/~piyush/teaching/structured_prediction.pdf
论文笔记之Deep Convolutional Networks on Graph-Structured Data
BVL的博客
12-02 8446
本篇论文是2015年nips上的一篇论文， 是对于其本人在2014年nips发表的论文：Deep Convolutional Networks on Graph-StructuredData 对于graph上的cnn进一步探讨。相比于之前的工作，此篇论文主要贡献有两点： 1.将之前的construction应用于大数据集的分类问题——Imagenet 2.对于输入的graph是否有标签，分别
deeplearning.ai课程知识点整理
mikelkl的博客
12-29 4622
Neural Networks and Deep Learning Introduction to deep learning Neural Networks Basics Logistic Regression as a Neural Network Computation graph 神经网络的计算过程由正向传播（forward propagation ）来进行前向计...
AdamTechLouis's talk:Deep Learning on Graphs.
weixin_41697507的博客
06-03 486
Introduction We are in the process of defining a new way of doing machine learning, focusing on a new paradigm, the data fabric. In the past article I gave my new definition of machine learning: Mac...
《Relational inductive biases, deep learning, and graph networks》图网络 论文解读
handsome_happy的博客
06-15 1万+
研究背景：机器学习界有三个主要学派，符号主义（Symbolicism）、连接主义（Connectionism）、行为主义（Actionism）。符号主义的起源，注重研究知识表达和逻辑推理。经过几十年的研究，目前这一学派的主要成果，一个是贝叶斯因果网络，另一个是知识图谱。贝叶斯因果网络的旗手是 Judea Pearl 教授，2011年的图灵奖获得者。但是据说 2017年 NIPS 学术会议上，老爷子...
Must-read papers on GNN
omnispace的博客
05-06 1156
GNN: graph neural network Contributed by Jie Zhou, Ganqu Cui and Zhengyan Zhang. Survey papers Graph Neural Networks: A Review of Methods and Applications. Jie Zhou, Ganqu Cui, Zhengyan Zhang,...
图卷积神经网络GCN---谱图卷积层代表作
青山白云间
03-31 1235
Spectral-based ConvGNN 这篇博客侧重列举谱图卷积的主要发展演变，如果要从头理解建议阅读图卷积神经网络（Graph Convolutional Network）之谱卷积。 基于图谱方法的卷积是图卷积神经网络的一个重要方法。频谱方法的一个常见缺点是它们需要将整个图形加载到内存中以执行图形卷积，这在处理大图形时效率不高。[8] 1 Spectral networks and l...
GCN graph convolutional networks 详解
Love-Coding
09-11 7557
首先要充分了解卷积： 然后再看graph上 图摘自 https://download.youkuaiyun.com/download/guotong1988/10635690
semi_supervised classification with graph convolutional networks论文阅读报告(1)
u013263329的博客
08-25 8049
来来来，下一篇。 这篇论文的作者写了一篇博客，介绍了这篇文章的来龙去脉：GRAPH CONVOLUTIONAL NETWORKS  论文作者已经写得挺详细了，我为啥还要写这篇博客呢？因为我发现作为一个小白，很多地方是不懂的，所以我想把自己的思路和问题写下来。 另外还有，论文内容与代码的对应问题：我发现有时候论文看的非常皮毛，理论和代码对应不上，所以想把他们的之间的关系描述一下，把我学习的
导读ICML2016 - Learning Convolutional Neural Networks for Graphs
mmc2015的专栏
06-20 5416
http://mp.weixin.qq.com/s?__biz=MzIxNzE2MTM4OA==&mid=2665642794&idx=1&sn=b11ec8699218d43bb7b404a4980bf82e&scene=25 感觉方法挺好： 论文引介 |Learning Convolutional Neural Networks for Graphs 原创 201
关于图卷积的一点思考
Tsingzao的博客
11-30 1137
其实这篇博客是为了凑数的，我就是看11月貌似没有新的博客，所以把最近稍微看了的内容粗略整理一下，那是相当粗略。。。   图卷积网络（Graph Convolution Network）从【1】【2】提出以来，发展迅速，主要包括基于谱的方法（spectral-based）和非基于谱的方法（non-spectral based）两类。基于切比雪夫分解的图卷积网络【3】及其类似简化版【4】也是典型的...
论文笔记之Spectral Networks and Deep Locally Connected Networks on Graphs
BVL的博客
12-01 1万+
这是2014 nips上的一篇论文。 主要的贡献就是设计了在irregular grid上的cnn的应用。**文中有两个并列的模型：第一个模型deep locally connect network（spatial construction从空间角度去建立）locally 体现在 只取每个节点前k个neighborhoods。 connect 体现在，每层与每层之间的神经元数目是通
Graph RCNN解读
Sundrops的专栏
10-24 2497
这个十月一堆事，心情也比较烦闷，就一直没有动笔写blog，之前一直在做scene graph的生成，然后最近恰好看到graph-rcnn这篇很不错的文章，就解读做个记录 Framework 以往做scene graph generation，基本都是在faster rcnn基础上检测出图片的物体后，两两配对识别他们的关系，这样做是很有效但是很低效，毕竟并不是所有物体都有关系的，这样做太耗时间了...
NIPS 2018 接收论文list 完整清单
热门推荐
TomRen
09-12 2万+
NIPS2018 接收论文包括poster、tutorial、workshop等，目前官网公布了论文清单： https://nips.cc/Conferences/2018/Schedule 同时还给出了workshop介绍。
DSSM（Deep Structured Semantic Models）介绍
06-05
DSSM（Deep Structured Semantic Models）是微软研究院提出的一种基于深度学习的语义匹配模型，主要用于信息检索和推荐系统中的查询-文档匹配。它通过将查询和文档映射到一个低维语义空间中的向量表示，来捕捉它们...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值