- 博客(21)
- 收藏
- 关注
原创 使用Pytorch实现KL散度
Kullback-Leibler(KL)散度是衡量两个概率分布之间差异的一种方法。对于离散型随机变量,KL散度定义为一个分布相对于另一个分布的期望信息增益。
2024-04-09 23:40:28
2583
1
原创 使用Pytorch实现Self-Attention架构
在自注意力机制中,每个元素(例如单词或时间步)都与其他元素进行交互,并且注意力权重决定了每个元素对其他元素的重要性。这样,通过将每个元素与其他元素进行交互,并且根据它们之间的关系调整重要性,自注意力机制能够捕捉序列中的长距离依赖关系,并且不受序列长度的限制。注意力分数矩阵的每个元素表示一个元素对另一个元素的注意力权重,这些权重通常通过计算元素之间的相似性得到。对于给定的序列,首先通过三个独立的线性变换(通常是全连接层)来计算查询向量。这些向量的维度通常是预先定义的,通常是模型的超参数。
2024-04-07 19:09:16
1854
1
原创 TransMTDP【放射剂量预测】
本文于2023年发表于International Journal of Neural Systems(中科院二区)
2024-03-24 19:05:22
1772
原创 使用Matplotlib和Seaborn绘制簇状柱状图
Seaborn基于Matplotlib,提供了更高级别的接口,使得绘制美观的图表变得更为简单。
2024-03-18 14:57:17
2320
原创 关于将Google Scholar搜索到的文献批量导入Zotero/Endnote等文献管理工具
最近想整一个自己的文献库,计算机领域用得最多的应该是Google Scholar,但是Google Scholar无法批量导出文献。于是用selenium写了一个拙劣的小爬虫。
2024-02-23 22:35:23
9142
5
原创 CrossGNN: Confronting Noisy Multivariate Time Series Via Cross Interaction Refinement【时序预测】
经过作者的分析,发现真实世界的多变量时间序列数据存在一些意想不到的噪声(由人为或传感器失真等造成),从而导致现有的先进模型的性能受到影响。而且随着提取的尺度越粗糙,时间序列噪声强度越低,不同变量之间也具有同质性和异质性。围绕此,作者设计了一种新颖的跨尺度、跨变量的CrossGNN模型,以解决噪声影响,得到具有更好预测性能的鲁棒的模型。
2023-12-20 23:27:53
1531
原创 Anomaly Transformer: Time Series Anomaly Detection with Association Discrepancy【时序异常检测】
本文主要思想① 设计一种Anomaly Transformer with an Anomaly-Attention mechanism来量化prior-association以及series-association,并得到Association Discrepancy。② 随后利用minimax strategy来放大Association Discrepancy,以更好区分异常点与正常点。
2023-12-20 00:14:26
1618
原创 Deep and Confident Prediction for Time Series at Uber【时间序列】
基于长短期记忆(LSTM)模型易于结合外生变量和自动特征提取能力,Uber的研究人员基于此开发了一种用于时间序列预测的端到端高性能模型,并使用贝叶斯神经网络(BNN)量化预测不确定性,进一步用于大规模异常检测。
2023-12-08 13:51:41
253
原创 GANomaly: Semi-supervised Anomaly Detection via Adversarial Training 【异常检测】
核心思想:在自动编码器之后,又增加了一个编码器,构成了“ encoder-decoder-encoder ”的结构,通过比较第二个编码器的输出和第一个编码器的输出之间的差别,来评估输入图像是否属于异常图像。
2023-12-01 12:55:27
1327
原创 Android studio 创建avd失败
第一次创建虚拟机,显示 consider using a system image with Google APIs to enable testing with Google Play Services,avd创建失败。
2022-12-04 19:48:58
4645
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅