- 博客(10)
- 收藏
- 关注
原创 Graph Neural Network图神经网络
Graph Neural Network图神经网络A.Mathematical Notations图表示:V、E表示节点和边𝑣𝑖∈𝑉是一个节点,𝑒𝑖𝑗=𝑣𝑖,𝑣𝑗∈𝐸表示Vi和Vj之间的一条边节点V的邻域可以定义为𝒩(𝑣)={𝑢∈𝑉∣(𝑣,𝑢)∈𝐸}图的邻接矩阵用𝐀∈ℛ𝑁×𝑁来描述,N是节点数,N=|V|𝐀𝑖𝑗=1if𝑣𝑖,𝑣𝑗∈𝐸and𝑖≠𝑗;𝐀𝑖𝑗=1在无向图中,Aij表示节点Vi和Vj之间的边连接在有向图中,Aij表示从Vi指向Vj的边实际应用中,图...
2022-04-06 22:32:10
617
原创 自注意力(Self-Attention)
自注意力给定序列 自注意力池化层将当做key,value,query来对序列抽取特征得到 是自注意力池化函数位置编码没有记录位置信息 位置编码将位置信息注入到输入里 假设长度为n的序列是,那么使用位置编码矩阵来输出作为自编码输入 P的元素如下计算:位置嵌入矩阵的第6列和第7列的频率高于第8列和第9列。 第6列和第7列之间的偏移量(第8列和第9列相同)是由于正弦函数和余弦函数的交替。#@saveclass PositionalEncoding...
2022-04-01 17:03:53
1424
原创 注意力机制(Attention Mechanism)
注意力机制 卷积、全连接、池化层都只考虑不随意线索 注意力机制则显示的考虑随意线索 随意线索被称之为查询(query) 每个输入是一个值(value)和不随意线索(key)的对 通过注意力池化层来有偏向性的选择某些输入 非参注意力池化层 给定数据(,), 平均池化是最简单的方案: 更好的方案是60年代提出来的Nadaraya-Watson核回归 Nadaraya-Watson核回归使用高斯核那么总结心理学任务人通过随意线索
2022-04-01 16:15:05
3784
原创 Structural analysis of fault isolability in the DAMADICS benchmark
结构分析论文:Structural analysis of fault isolability in the DAMADICS benchmark
2022-03-23 20:39:02
3070
原创 FeO Content Prediction for an Industrial Sintering Process based on Supervised Deep Belief Network
Abstract基于应用于工业烧结过程中,监控关键质量指标非常重要,指标难以在线测量。软测量技术是一种很好地在线测量质量指标的解决方案。深度学习的非线性数据处理能力被广泛应用于软测量领域。本文提出了一种有监督的深度置信网络(SDBN),通过每个受限玻尔兹曼机的输入变量中引入质量变量来提取软传感器的质量相关特征。通过对一个实际工业烧结过程的实例研究,SDBN显示出比原始的深度信念网络和堆叠式自动编码器更好的预测性能。Introduction原因:制造过程中的多关联性和强耦合关系,在过程操作
2022-03-05 15:25:24
749
原创 基于图卷积网络的测量与先验知识相结合的故障诊断方法
本文基于Graph Convolutional Network-Based Method for Fault Diagnosis Using a Hybrid of Measurement and Prior Knowledge,做了论文的精读,了解论文内容结构
2022-03-01 21:08:08
3791
原创 LightTrack: Finding Lightweight Neural Networks for Object Tracking via One-Shot Architecture Search
论文精读:LightTrack: Finding Lightweight Neural Networks for Object Tracking via One-Shot Architecture Search
2021-12-21 22:59:10
1454
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人