Chiang's Blog

论文&代码 提出问题 完全基于Attention的网络还只应用于Seq2Seq问题，如NMT Attention-Only丢失时序信息（所以需要Positional Encoding） 本文目标：不用RNN/CNN，构建一个统一的可以用于各种NLP问题的Sentence Encoding问题的Attention网络 背景知识 Sentence Encoding Attention: Attention(Query,Source)=∑i=1LxSimilarity(Query,Keyi.

Note of Isolation Forest 论文：https://cs.nju.edu.cn/zhouzh/zhouzh.files/publication/icdm08b.pdf 一、介绍 作者认为，异常数据存在两个显著的特性： 数量少，甚至是极少 与正常数据有显著的属性值差异 简单来说，异常是少且非常不同的。 因此，作者要做的就是找出这些异常点，而不是为正常数据建模（传统方法）。作者提出用树的结构去做这件事，并且在论文中会证明异常点更接近根节点（深度浅），正常点离根节点更远（深度深）。