w55100的博客

torch竟然没有from scipy这种方法...真的是...

因为不懂这个被鄙视了，调包侠来补作业。基础知识FFT(fast fourier transfrom)快速傅里叶变换。推荐阅读《深入浅出的讲解傅里叶变换（真正的通俗易懂）》，《梅尔频率倒谱系数（MFCC）》。频谱只获得了频域视角下，不同正弦波的幅度大小，而不包含相位信息，所以频谱又名振幅谱。距离频率轴最近的波峰，其到频率轴的时间差，除以周期，乘以2pi，即为相位差。人为定义相位谱的值域为(-pi，pi]，因为相位差是周期的。傅里叶级数，在时域是一个周期且连续的函数，而在频域是一个非周期离散的函

调包侠的自我修养。国际惯例引用import torchimport torch.nn.functional as F先看定义def pad(input, pad, mode='constant', value=0):F.pad函数封装了不同mode的其他pad函数torch.nn.ConstantPad(涵盖了torch.nn.ZeroPad)torch.nn.ReflectiontPadtorch.nn.ReplicationPad以及一个独特的pad能力F._pad_ci

前言转置卷积，学名transposed convolution，在tf和torch里都叫这个。有时在论文里可以看到别人叫它deconvolution（反卷积），但这个名词不合适。因为转置卷积并非direct convolution的逆运算(reverse)，并不能还原出原张量。只是从形状上看，其结果的形状等同于逆运算。写这篇文章还是因为网上介绍转置卷积的博客，都讲不清楚，我看了半天还是云里雾里。只能自己手动来一篇了。一、 基本运算——错位扫描定义 本文中，我们将平时用到的普通卷积，称为dir

Title:《Practice on Long Sequential User Behavior Modeling for Click-Through Rate Prediction》ref:https://arxiv.org/abs/1905.09248code:https://github.com/UIC-Paper/MIMN/值得一提的是，这个仓库还把阿里妈妈UIC的几个前置工作(DIN,DIEN)的代码都放上去了。Memory Utilization Control全文最困惑不解的地方.

一、前言Face Alignment Network《How far are we from solving the 2D & 3D Face Alignment problem? (and a dataset of 230,000 3D facial landmarks)》主要记一下Adrian Bulat这个人。论文：https://arxiv.org/abs...

torchvision版本问题。 File "/home/qq/anaconda3/envs/qq/lib/python3.7/site-packages/torchvision/models/detection/faster_rcnn.py", line 7, in <module> from torchvision.ops import misc as misc_n...

第一部分，参照Hong-yi Lee youtube视频，记录背景知识和attention的计算原理。第二部分，按照论文《Attention is all your need》的结构，描述怎么利用第一部分的算法，搭建一个transformer。第三部分，个人实现过程中遇到的问题，能解释的都回来补充了，也会穿插在正文里。

《Neural Learning of Online Consumer Credit Risk》>https://arxiv.org/pdf/1906.01923.pdf京东出的文章。49P的大长文，独辟蹊径的格式，全是字…慢慢看，边看边写。A typical cycle of online shopping on credit consists of three stages ...

网上找不到一篇讲的比较好的中文稿件。只好自己动手了。最后附带了个人心得。下述代码为torch 1.0版本实现。目录一、基本运算介绍二、一个简单版本的一维卷积1.定义input2.定义filter3.做一维卷积运算4.代码实现三、一个扩展的一维卷积示例四、其他话①有些文章把kernel_size=len_seq时的1-d conv称为full c...

特殊模型问题模型最基本的东西1. 确定要预测问题（对象）2. forward输出什么3. loss选择什么对确定预测的问题（对象），一般可以用简单A+B=C来表达。我想研究A在B的限制下的C。那么A用一系列特征表达，B用一系列特征表达，花里胡哨运算一通得到某个值，我们再强行许愿令其为C即可。forward输出什么，倒是可以与loss一起考虑...

前言Bin Liu1, Ruiming Tang‡ 1, Yingzhi Chen⋆ 2, Jinkai Yu1, Huifeng Guo1, Yuzhou Zhang11华为方舟实验室和2JNU的实习生做的。论文地址：https://arxiv.org/pdf/1904.04447实现语言：pytorch模型概述如果我们把现有的关于CTR预测的各种state-of-the-art...

@property把一个方法包装成属性，访问该属性就是调用该方法。例如：@propertydef a(): return self.b等于把方法a变成了属性，访问self.a时，等于运行了该方法。与之配套的有许多参数，此处以setter为例@a.setterdef a(self.val): #注意对a设置setter，def后接的函数名也必须...

设α为学习速率传统方法:w+= -α*dxMomentum:增加了一个记忆项，这一项会以β为比例，保留上一次的部分梯度信息。可以看作具备惯性。m =β*m + dxw+= -α*mAdaGrad:每一步接受全部过去梯度的2-范数的限制。使之走的更均匀。容易看到，在梯度较小的地方走得快，在梯度较大的地方走得慢。v+= dx^2...

更多内容，移步下篇matplotlib笔记（二） 其它类型图与多图打印引用import matplotlib.pyplot as pltimport numpy as npPart1 折线图实验一先画一个简单的折线图#折线图1x=np.linspace(-1,1,50)y= x*2+1plt.plot(x,y)plt.show()...

前言本篇写了很多第一次看代码做的注释。为了便于搞懂核心脉络，对所有的分支选择都做了简化。层次结构与jwyang的实现版本有差异，因为源版本里存在很多冗余代码。目的是构造一个最简训练模型。萌新学的话，可以在搭建成功之后，再自行扩展。参考源代码：https://github.com/jwyang/faster-rcnn.pytorch/tree/pytorch-1.0...

关于如何处理坐标轴，标签，线条，移步此篇matpotlib笔记（一）折线图引用import matplotlib.pyplot as pltimport numpy as npPart2 其他类型图实验一：散点图#3.1散点图n=1024x=np.random.normal(0,1,n)y=np.random.normal(0,1,...

前言这是看了18年李宏毅(Hung-yi Lee)的GAN课程做的作业。课程主页:http://speech.ee.ntu.edu.tw/~tlkagk/courses_MLDS18.html基于tensorflow框架，第一次实现参考了别人的代码。1.网络模型搭建生成器4层，从小到大，经历一次全连接，2次上采样，3次卷积，最后tanh()激活后输出。鉴别器5层，4次...

买的书到了，草草一翻，补下基础还是有必要的。这个总结可写的比文档好多了。函数名 说明 torch.tensor() 传入数据如 tensor([2,3]) torch.zeros(),torch.zeros_like() 全0 torch.ones(),torch.ones_like() 全1 torch.full(),torch.full_l...

前言PIL图像是pyhton种的一种标准图像类Pytorch 中的accimage正文用Compose()把所有变形操作合并。mytrans = torchvision.transforms.Compose( transform1, transform2, ...,)尺寸处理CLASStorchvision.tran...

前言研究lightnet源代码时，看到这种技巧，惊为天人，于是单独摘出来。感谢作者EAVISE，lightnet传送门。一、 使用OrderedDict([ ])import torchimport torch.nn as nnfrom collections import OrderedDictlayer_list = [ # Seque...

#1 self.batch的更改和保存核心在于self.seen这个数据。因为self.batch = self.seen // self.batch_sizeself.seen是指network.seen，与Engine类无关。YoloABC ->继承自Darknet ->继承自Lightnet类。这是lightnet框架里面非常有趣的一小环。以我...

整了半天，不确定定义在哪个文件，看起来比较像这个。C:\Users\Administrator\.PyCharm2018.2\system\python_stubs\1756426084\torch\_C\_TensorBase.py def min(self, dim=None, keepdim=False): # real signature unknown; restor...

torch定义了7种CPU tensor类型和八种GPU tensor类型：Data tyoe CPU tensor GPU tensor 32-bit floating point torch.FloatTensor torch.cuda.FloatTensor 64-bit floating point torch.DoubleTensor ...

加法运算1. 加号运算符同型时，效果等同于点加import torcha = torch.Tensor([1,2])b = torch.Tensor([3,4])c=a+bprint(c)#tensor([4,6])a = torch.Tensor([[1,2],[3,4]])b = torch.Tensor([[5,6],[7,8]])c=a+...

本文为笔记。>原论文：《Deep Landscape Forecasting for Real-time Bidding Advertising》>Authors: Kan Ren, Jiarui Qin, Lei Zheng, Zhengyu Yang, Weinan Zhang, Yong Yu> https://arxiv.org/abs/1905.03028> KDD2019...

什么是accimage先要介绍PIL，Python Image Library。这是一个python自带的图片处理库，其保存的图片文件可以叫做PIL_image，是一种特殊结构。也就是说，哪怕你根本不知道pytorch是什么，在其他的python图像处理任务中也可能用到PIL。而在pytorch中，开发团队为了解决图片处理的性能瓶颈问题，改写了PIL_image类，...