Bryan__的专栏

这是一篇对用户序列建模的论文,用户session内的行为相似,session之间的行为差异较大.其中session根据行为发生的时间进行划分,然后进行兴趣提取,兴趣交互,兴趣激活

介绍一篇很有意思的论文,DUMN,论文的亮点在于将item侧的行为序列也加入建模,通过计算user to user 的相似度,来表达target user与target item之间的相似度.

循环神经网络GRU原理

scikit-learn技术专栏结构之法，编程之道苍老师的gitwepon的git雪伦的博客：机器学习算法原理及实现专栏RDD操作，shuffle和持久化Kaggle Competition Past Solutions当我们在谈论数据挖掘CS231n机器学习课程李困困整理的

转自：https://zhuanlan.zhihu.com/p/28202287把DNN引入ctr预估无非看重两点：一，改进模型结构，提高“信息利用率”，发现高阶非线性特征，挖掘以前挖不到潜在模式，比如DIN引入attention机制；一般来说Embedding+MLP是标配。二，扩充“信息量”，把图片/文本这类不好处理的数据利用起来，比如DeepCTR；#0 RoadMa

转自：https://zhuanlan.zhihu.com/p/28054589本文主要是利用图片的形式，详细地介绍了经典的RNN、RNN几个重要变体，以及Seq2Seq模型、Attention机制。希望这篇文章能够提供一个全新的视角，帮助初学者更好地入门。一、从单层网络谈起在学习RNN之前，首先要了解一下最基本的单层网络，它的结构如图：输入是x，经过变换W

1.首先对深度学习做一个简单的回顾2.介绍DenseNet1.1 DNN回顾如下图所示是一个基本DNN结构，通过forward传播和backword传播来训练一个模型包含input层，L个隐藏层和一个output隐层使用的sigmoid激活函数一般的优化方法有如下几种GD：对所有样本计算完一次梯度然后更新权重SGD：每个样本计算一次梯度就更新权重

本文介绍1*1的卷积核与googlenet里面的Inception。正式介绍之前，首先回顾卷积网络的基本概念。 1. 卷积核：可以看作对某个局部的加权求和；它是对应局部感知，它的原理是在观察某个物体时我们既不能观察每个像素也不能一次观察整体，而是先从局部开始认识，这就对应了卷积。卷积核的大小一般有1x1,3x3和5x5的尺寸。卷积核的个数就对应输出的通道数，这里需要说明的是对于输入的每个通道，

原文：http://www.wildml.com/2015/09/implementing-a-neural-network-from-scratch/# -*- coding: utf-8 -*-"""Created on Fri Jul 7 15:37:41 2017@author: bryan"""import numpy as npfrom matplotli

来源：http://blog.youkuaiyun.com/zhongkejingwang/article/details/44514073 什么是BP网络BP神经网络，BP即Back Propagation的缩写，也就是反向传播的意思，顾名思义，将什么反向传播？文中将会解答。不仅如此，关于隐层的含义文中也会给出个人的理解。最后会用Java实现的BP分类器作为其应用以加深印象。 　　很多初

使用NCE作为损失函数，SGD优化，skipGram模式# -*- coding: utf-8 -*-"""Created on Sat Jul 22 17:35:12 2017@author: bryan"""import collectionsimport mathimport osimport randomimport zipfileimport numpy as

神经网络的计算过程神经网络结构如下图所示，最左边的是输入层，最右边的是输出层，中间是多个隐含层，隐含层和输出层的每个神经节点，都是由上一层节点乘以其权重累加得到，标上“+1”的圆圈为截距项b，对输入层外每个节点：Y=w0*x0+w1*x1+…+wn*xn+b，由此我们可以知道神经网络相当于一个多层逻辑回归的结构。（图片来自UFLDL Tutorial）算

来源：http://blog.youkuaiyun.com/v_july_v/article/details/51812459通俗理解卷积神经网络（cs231n与5月dl班课程笔记）1 前言    2012年我在北京组织过8期machine learning读书会，那时“机器学习”非常火，很多人都对其抱有巨大的热情。当我2013年再次

参考：http://hacker.duanshishi.com/?p=1661使用LR可以得到0.92的分类正确率使用AlexNet可以得到0.95的分类正确率使用LR# -*- coding: utf-8 -*-"""Created on Mon Jul 17 16:26:57 2017@author: bryan"""import tensorflow a

# -*- coding: utf-8 -*-"""Created on Tue Jul 18 15:48:07 2017@author: bryan"""import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_d