weixin_44790306的博客

本章再次重温informer 的重点细节，对Informer模型的问题背景与应用数据场景有了更进一步理解，按作者的表达，适用于具有周期性的数据集，适合做一个较长的时序预测，如果过于短期的预测反而不能很好的体现informer应有的性能。继续从三大挑战出发，提出三点对应的处理方法，从数学推导到实际模型验证的过程。以及论文源码中出现的一些小技巧的学习，比如 EarlyStopping的原理与使用技巧。Reference：1.细读informer与项目学习2. 类Transformer模型的长序列分析预测新方

文章目录摘要一. Visual Transformer (ViT)模型1.1 ViT模型整体结构1.2小结二. VIT 代码实现PyTorch版本摘要一. Visual Transformer (ViT)模型论文源地址：https://arxiv.org/abs/2010.11929参考博客地址：VIT详细讲解1.1 ViT模型整体结构ViT模型是基于Transformer的模型在CV视觉领域的开篇之作，本篇将尽可能简洁地介绍一下ViT模型的整体架构以及基本原理。ViT模型是基于Transfor

文章目录摘要一. 细致理解Transforemr模型Encoder原理讲解与其Pytorch逐行实现1.1 关于word embedding1.2 生成源句子与目标句子1.3 构建postion embedding1.4 构建encoder 的self-attention mask1.5 构建 intra_attention 的mask(交叉attention)摘要本周从NLP方向，详细理解了Transformer的词向量，位置编码，编码器的子注意力的mask原理，以及一. 细致理解Transfo

文章目录摘要一.Informer代码部分（2）1.1 Deconder模块代码二.三. conda环境导入导出摘要一.Informer代码部分（2）1.1 Deconder模块代码二.三. conda环境导入导出代码运行环境的

文章目录摘要一.摘要一.

文章目录摘要一. GAN原始论文原理导读与pytorch代码实现1.1 GAN的简单介绍1.2 生成对抗网络GAN的定义1.3 GAN的算法流程摘要一. GAN原始论文原理导读与pytorch代码实现GAN原始论文：原始论文下载地址1.1 GAN的简单介绍首先我们用一句话来概括下原始GAN。原始GAN由两个有机中整体构成——生成器 GGG 和判别器 DDD ，生成器的目的就是将随机输入的高斯噪声映射成图像（“假图”），判别器则是判断输入图像是否来自生成器的概率，即判断输入图像是否为假图的概率。G

文章目录

文章目录摘要文献阅读一. Informer: 一个基于Transformer改进的高效的长时间序列预测模型1.1 论文摘要1.2 研究内容1.3 Informer模型架构预备知识LSTF问题定义Encoder-Decoder 体系结构1.4 创新点1.5二. pytorch 基础2.1 损失函数与反向传播2.2 优化器2.3 VGG16模型的使用与修改2.4 完整网络模型的训练套路简单汇总2.4.1 网络模型的保存与读取2.4.2 完整模型套路创建网络模型（model.py要确保与train.py在同一文件

文章目录摘要一. Autoformer: 基于深度分解架构和自相关机制的长期序列预测模型论文摘要摘要一. Autoformer: 基于深度分解架构和自相关机制的长期序列预测模型论文摘要

文章目录摘要一. 关于Transformer的相关学习1.1 手推transformer1.1.1 Encoder部分1.1.2 Decoder部分1.2 Transformer的理解与实现（Pytorch)1.2.1 seq2seq模型1.2.2 Transformer的简单实现1.2.2.1 整体结构1.2.2.2 Encoder编码器的代码实现1.2.2.3 PositionalEncoding 代码实现1.2.2.4 get_attn_pad_mask的细节1.2.2.5 EncoderLa

目录Transformer在Pytorch中的从零实现完整代码Transformer在Pytorch中的从零实现完整代码## from https://github.com/graykode/nlp-tutorial/tree/master/5-1.Transformer# -*- coding: utf-8 -*-import numpy as npimport torchimport torch.nn as nnimport torch.optim as optimimport matp

文章目录摘要一. Stata 实现空间杜宾模型并解读分析1.空间权重矩阵的生成二. 知识图谱学习三. Pytorch 实践摘要一. Stata 实现空间杜宾模型并解读分析1.空间权重矩阵的生成二. 知识图谱学习三. Pytorch 实践...

文章目录一. 空间杜宾模型1.1 什么是空间杜宾模型？一. 空间杜宾模型1.1 什么是空间杜宾模型？

文章目录摘要一.摘要一.

摘要本周一是对kringing算法中的pykrige.ok.OrdinaryKriging源码部分分析，对其类的定义形式与各参数所代表的含义有进一步了解；与类中的核心方法execute（）的内部参数的运用与理解。但是对其中计算克里金网格和相关的方差的计算过程，也是最重要的地方，并没有理解（后续请教+查阅资料）。二是利用DCGAN生成对抗网络模型实现动漫头像的生成。三是由于阿里云服务器的PHPnow集成开发环境的重新搭建，并配置apache服务器，实现局域网与外网的直接访问。四是解答毕设疑惑。一.Ordi

文章目录摘要一.Large-scale water quality prediction with integrated deep neural network（基于集成深度神经网络的大规模水质预测）1.1 论文摘要1.2 问题描述补充点1.3 模型设计1.4 评估标准1.5 实验特点1.6 创新点摘要文献阅读一.Large-scale water quality prediction with integrated deep neural network（基于集成深度神经网络的大规模水质预测）作者

摘要一. 条件查询结果定时转储数据的实现使用nvaicat 15 for mysql 即可实现（使用命令较为繁琐）在test数据库下新建条件查询事件本次是查询统计在学生成绩表的按季度和课程统计成绩的最大值，最小值，平均值。直接导出查询结果，按你需要的导出文件格式记得添加事件戳，并保存导出查询，但不要点开始。保存之后，将统计成绩表查询导出，自动运行，将查询事件拖入任务计划中。（注意：先保存任务查询，后才以设置任务计划。）根据需求设置执行事件的时间点，开始——截止，间隔时间，就

文章目录摘要一. MYSQL 数据库主从复制，实时同步的再现1. 1 先下载虚拟机（硬件）与lunxi系统（centos7）1.2 在lunxi 系统安装rpm 版mysql 5.5.551.3 在Windows 系统中安装新的MYSQL5.551.4 主从复制的原理与实践1.5 总结摘要一. MYSQL 数据库主从复制，实时同步的再现1. 1 先下载虚拟机（硬件）与lunxi系统（centos7）步骤：下载虚拟机：下载方法与步骤下载centos7 DVD版 镜像如果版本与centos

文章目录一. 文献阅读—1.1 摘要1.2 模型设计一. 文献阅读—1.1 摘要文章结构1.2 模型设计

文章目录一. A transfer Learning-Based LSTM strategy for imputing Large-Scale consecutive missing data and its application in a water quality prediction system摘要文章结构模型设计数据处理评估标准实验特点创新点改进点小结一. A transfer Learning-Based LSTM strategy for imputing Large-Scale cons

文章目录摘要摘要