- 博客(12)
- 收藏
- 关注
原创 word2vec相关论文
word2vec有两篇奠基性论文,由Google的Tomas Mikolov提出,分别为:1.Efficient Estimation of Word Representations in Vector Space (Google 2013)word2vec的奠基性论文之一,由Google的Tomas Mikolov提出。该论文提出了CBOW和Skip-gram两种word2vec模型结构。2.Distributed Representations of Words and Phrases ..
2020-07-05 21:24:05
1529
转载 WSDM 2020关于深度推荐系统与CTR预估工业界必读的论文
导读:本文主要简要列举下Google、Tencent、Alibaba以及Huawei等各大公司在WSDM 2020上关于深度推荐系统与CTR预估相关的论文。1. Interpretable Click-Through Rate Prediction through Hierarchical AttentionZeyu Li (University of California Los Angeles, United States); Wei Cheng (NEC Laboratories Ame.
2020-06-28 00:06:25
1574
原创 Attention Is All You Need 阅读翻译
Abstract 摘要The dominant sequence transduction models are based on complex recurrent or convolutional neural networks that include an encoder and a decoder. The best performing models also connect the encoder and decoder through an attention mechanism..
2020-06-14 17:26:02
1590
3
原创 神经网络参数初始化-He初始化
Glorot和Bengio提出了Xavier方法来初始化网络参数。该方法基于激活是线性的假设。但该假设对ReLU不适用。何凯明(He kaiming)在论文《Delving Deep into Rectifiers:Surpassing Human-Level Performance on ImageNet Classification》中提出了针对 ReLU激活网络的初始化方法。He初始化与Xavier方法一样,He初始化方法也希望初始化使得正向传播时,状态值的方差保持不变;反向传播时,关于激活.
2020-06-11 03:24:30
6476
原创 神经网络参数初始化
神经网络的参数有权重(weights)W和偏置(bias)b。训练神经网络,需要先给网络参数W和b赋初始值,然后经过前向传播和后向传播,迭代更新W和b。这些参数的初始值对于神经网络收敛的速度及神经网络的准确率有很大影响。那么,应该怎么初始化这些参数呢?不能采用的方法全0初始化这部分会从神经网络前向传播及后向传播的角度进行分析,不熟悉前向传播和后向传播的朋友,可以参考我的另一篇博客:神经网络的前向传播和反向传播假设神经网络有一个输入层、隐层、输出层,如下: ...
2020-06-07 01:34:19
6035
1
原创 多分类ROC曲线及AUC计算
上一篇博客(https://blog.youkuaiyun.com/u010505915/article/details/106394765)介绍了二分类下的ROC曲线及AUC计算,本文主要介绍多分类下的ROC曲线及AUC计算。对于多分类数据,假设测试样本个数为m,分类个数为n(分类label分别为:1,2,...,n),可以将这些样本及对应的label表示为矩阵形式,每行一个样本,每列为该样本是否属于该分类,从而形成一个[m, n]的标签矩阵:ID 分类1 分类2 分类3 A 1
2020-06-04 01:47:57
39427
10
原创 ROC曲线及如何计算AUC
AUC的全名是Area Under Curve,就是ROC曲线下的面积。因此,在介绍AUC之前,先介绍下ROC。ROCROC,Receiver Operating CharacteristicROC(receiver operating characteristic curve)接收者操作特征曲线,是由二战中的电子工程师和雷达工程师发明用来侦测战场上敌军载具(飞机、船舰)的指标,属于信号检测理论。ROC曲线的横坐标是伪阳性率(也叫假正类率,False Positive Rate...
2020-05-29 01:55:52
10656
2
原创 神经网络的前向传播和反向传播
本博客是对Michael Nielsen所著的《Neural Network and Deep Learning》第2章内容的解读,有兴趣的朋友可以直接阅读原文http://neuralnetworksanddeeplearning.com/chap2.html前向传播过程在讨论反向传播之前,我们讨论一下前向传播,即根据输入X来计算输出Y。输入X用矩阵表示,我们看一下如何基于矩阵X来计算网络的输出Y。我们使用 表示从层的第 个神经元到层的个神经元的链接上的权重。例如,下图给出了网络中第二层的..
2020-05-25 00:50:23
3818
原创 Pareto-Efficient Hybridization for Multi-Objective Recommender Systems
ABSTRACT 简介Performing accurate suggestions is an objective of paramount importance for effective recommender systems. Other important and increasingly evident objectives are novelty and diversity, ...
2020-05-04 14:42:08
1901
1
原创 Multiple Objective Optimization in Recommender Systems 推荐系统多目标优化
ABSTRACT 摘要We address the problem of optimizing recommender systems for multiple relevance objectives that are not necessarily aligned. Specifically, given a recommender system that optimizes for o...
2020-05-03 21:08:24
1302
原创 A Pareto-Efficient Algorithm for Multiple Objective Optimization in E-Commerce Recommendation阅读翻译
ABSTRACTRecommendation with multiple objectives is an important but difficult problem, where the coherent difficulty lies in the possible conflicts between objectives. In this case, multi-objective o...
2020-02-27 02:15:47
3867
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人