ljs_a的博客

之前在网上找到了一个文本匹配实现仓库，但是没有提供DSSM的代码，我就根据那个代码实现以下DSSM。数据集采用的是蚂蚁金服的数据集。也参考过别人的代码，但是总感觉怪怪的，DSSM原文中，一个query有对应的正样本和负样本，因此在实现的时候分别计算query与正负样本的余弦相似度，最后拼接再接softmax，但是蚂蚁金服数据集中每一个样本都已一个query和doc,对应一个label，并没有成对的正负样本，因此在实现中遇到了困难，因此最后我索性直接将余弦值作为网络输出，貌似还取得了不错的效果，那么代码会有些

第一步：安装 Anaconda3 ; 第二步：安装pycharm,选取python环境，我是3.6的 （我之所以安装这两个，是因为我最后用的是pycharm环境，而Anaconda3主要是准备好python环境） 我的版本如下: 接下来安装pytorch; 打开Anaconda3下的Anaconda prompt 输入以下命令：pip install http://downlo...

转载自: https://zhuanlan.zhihu.com/p/27783097 https://www.jianshu.com/p/5d5d3957f684 ReLu 函数求导示例：# -*- coding:utf8 -*-import torchfrom torch.autograd import Variableclass MyReLU(torch.autogra...

首先先贴上一些有用的链接：https://www.cnblogs.com/king-lps/p/8477300.htmlhttps://zhuanlan.zhihu.com/p/29685634第一个链接是一个博主在看了李宏毅老师讲的视频之后的理解和总结，第二个是某知乎大佬对VAE的公式推导，两个我都看了，觉得写得很好。自己的理解：前者是从解码器端开始推导，后者是从编码器段开始推导，但是最...

原始图像和去噪图像分别在两个文件夹里clc, clear all;denoise_dir=fullfile('D:\视频数据集\4\denoise_10\');label_dir=fullfile('D:\视频数据集\4\test_label\');subdir_denoise = dir(fullfile(denoise_dir,'*.jpg'));subdir_label = d...

近几天做了一些视频去噪的一些边缘工作，故整理一下。首先是视频的预处理和加噪。这里主要参考了VBM4D（链接： http://www.cs.tut.fi/~foi/GCF-BM3D/ ）中的加噪方法：首先读取一个视频，然后加噪代码如下：function y = read_video(file_name, frames) fprintf('Loading test sequence "...

内容来自爱可可-爱生活微博。Github:GithubDoc:Doc

先贴出论文的链接吧：If resnets are the answer, then what is the question? 从现在的网络发展趋势来看，网络越深，精度会越高，但是传统的堆叠网络却无法不断加深网络层数，原因是梯度消失和梯度爆炸。自从Resnet提出以后，网络越深，精度就越好，这是为什么。我一直以为是由于Resnet 的 skip-connections解决了梯度消失的问题，在用反向

最近在看的论文中，包括人脸识别，以及模型压缩等论文中，都会有low-rank(低秩),低秩稀疏分解等解决方法，感觉关于low-rank的研究还挺火的，这个问题和robust PCA问题很像，都需要解决一下问题： 在此之前，我需要先把一些资料的链接放出来，这些资料很有用。 Robust PCA 原理：原理1 原理2 Robust PCA matlab code:code 原理里讲了很多范

要对tensor进行操作，需要先启动一个Session,否则，我们无法对一个tensor比如一个tensor常量重新赋值或是做一些判断操作，所以如果将它转化为numpy数组就好处理了。下面一个小程序讲述了将tensor转化为numpy数组，以及又重新还原为tensor：import tensorflow as tfimg1 = tf.constant(value=[[[[1],[2],[3],[4

深度学习近几年非常火，网络不断涌现，从AlexNet,GoogleNet,VggNet到ResNet,DenseNet,这些网络不断地提升各大分类比赛，识别比赛的精度，因此研究者们又开始着手于深度学习的实际应用，试图将深度学习算法能够应用在手机，嵌入式等移动设备和终端设备中。我本人之前也在思考：卷积神经网络固然在图像，计算机视觉等方面大显神通，但是它们参数量之大，占用大量内存，消耗大量资源和电量，它

下面来介绍tf.nn.separable_conv2d 的用法。 可以参考官方文档：官方文档 大家只要知道函数的参数，以及参数的设定方式：input: 一个Tensor。数据维度是四维 [batch, in_height, in_width, in_channels]。 depthwise_filter: 一个Tensor。数据维度是四维 [filter_height, filter_widt

首先，如果大家想安装python，不如安装Anaconda（百度进入官网，下载和电脑环境相匹配的安装包），Anaconda可以说很方便，里面有好几种python编程环境，而且常见的包都安装好了。 接下来介绍在python环境里安装opencv.(我就介绍Anaconda环境吧），安装好Anaconda之后，里面有个类似于windows的cmd命令行界面： 安装opencv包，需要先安装好nu

进入pytorch 官网：pytorch,会直接看到安装命令： 它用pip安装的，用命令下载安装包，但是这样通常速度很慢，我这上面10-20K/S, 安装包接近500MB，所以最好下载 .whl离线文件。 所以点击上图右下角，进入下载界面： 我选择的是cuda8.0版本，python2.7 ：cu80/torch-0.2.0.post3-cp27-cp27mu-manyli...

torch.getorch.ge(input, other, out=None) → Tensor逐元素比较input和other，即是否 input>=otherinput>=other。如果两个张量有相同的形状和元素值，则返回True ，否则 False。 第二个参数可以为一个数或与第一个参数相同形状和类型的张量参数:input (Tensor) – 待对比的张量other (Tensor

原作者博客地址： XNOR-Net算法详解 论文：XNOR-Net: ImageNet Classification Using Binary Convolutional Neural Networks 链接：https://arxiv.org/abs/1603.05279 代码地址：http://allenai.o...