<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[harry的博客]]></title><description><![CDATA[机器学习，C++，NLP，安全]]></description><link>https://blog.youkuaiyun.com/harry_128</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; harry_128]]></copyright><item><title><![CDATA[(论文笔记) Deep contextualized word representations]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/81184698</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/81184698</guid><author>harry_128</author><pubDate>Tue, 24 Jul 2018 14:54:53 +0800</pubDate><description><![CDATA[Deep contextualized word representations1. Introduction什么是一个好的词向量能够反映出语义和语法的复杂特征.能够准确的对不同上下文进行反应.deep contextualized 词向量的特点使用理念方面:在原先的词向量模型中, 每个词对应着一个向量, 但是这个模型是根据一个句子赋予每个词汇向量. 因此对于一个 n-tokens 的输入NLP任...]]></description><category></category></item><item><title><![CDATA[SVM对偶问题的深入理解]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/81106240</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/81106240</guid><author>harry_128</author><pubDate>Wed, 18 Jul 2018 22:07:30 +0800</pubDate><description><![CDATA[

                                            &amp;lt;p&amp;gt;&amp;lt;strong&amp;gt;1. 支持向量机的目的是什么？&amp;lt;/strong&amp;gt;&amp;lt;/p&amp;gt; 


对于用于分类的支持向量机来说，给定一个包含正例和反例（正样本点和负样本点）的样本集合，支持向量机的目的是寻找一个超平面来对样本进行分割，把样本中的正例和反例用超平面分开，但是...]]></description><category></category></item><item><title><![CDATA[[NLP技术]关键词提取算法-TextRank]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/81018138</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/81018138</guid><author>harry_128</author><pubDate>Thu, 12 Jul 2018 16:29:38 +0800</pubDate><description><![CDATA[
                关键词提取算法-TextRank

　　今天要介绍的TextRank是一种用来做关键词提取的算法，也可以用于提取短语和自动摘要。因为TextRank是基于PageRank的，所以首先简要介绍下PageRank算法。



1.PageRank算法

　　PageRank设计之初是用于Google的网页排名的，以该公司创办人拉里·佩奇（Larry Page）之姓来命...]]></description><category></category></item><item><title><![CDATA[LSF-SCNN：一种基于CNN的短文本表达模型及相似度计算的全新优化模型]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/81012983</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/81012983</guid><author>harry_128</author><pubDate>Thu, 12 Jul 2018 11:30:12 +0800</pubDate><description><![CDATA[

如果你对自然语言处理 (natural language processing, NLP) 和卷积神经网络（convolutional neural network, CNN）有一定的了解，可以直接看摘要和LSF-SCNN创新与技术实现部分。如果能启发灵感，应用于更多的现实场景中带来效果提升，那才是这篇文章闪光的时刻。如果你没有接触过NLP和CNN，也不在担心，可以从头到尾听我娓娓道来。有任何...]]></description><category></category></item><item><title><![CDATA[关于乱序（shuffle）与随机采样（sample）的一点探究]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/81011739</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/81011739</guid><author>harry_128</author><pubDate>Thu, 12 Jul 2018 10:36:07 +0800</pubDate><description><![CDATA[ 目录 Shuffle Sample Sample的各种实现回到random.samplerandom.sample有没有问题总结references &amp;nbsp;正文&amp;nbsp;
　　最近一个月的时间，基本上都在加班加点的写业务，在写代码的时候，也遇到了一个有趣的问题，值得记录一下。
　　简单来说，需求是从一个字典（python dict）中随机选出K个满足条件的key。代码如下（python2...]]></description><category></category></item><item><title><![CDATA[如何产生好的词向量？]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/81001581</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/81001581</guid><author>harry_128</author><pubDate>Wed, 11 Jul 2018 15:35:45 +0800</pubDate><description><![CDATA[如何产生好的词向量？
词向量、词嵌入（word vector，word embedding）也称分布式表示（distributed representation），想必任何一个做NLP的研究者都不陌生。如今词向量已经被广泛应用于各自NLP任务中，研究者们也提出了不少产生词向量的模型并开发成实用的工具供大家使用。在使用这些工具产生词向量时，不同的训练数据，参数，模型等都会对产生的词向量有所影响，那么...]]></description><category></category></item><item><title><![CDATA[文本分类的tricks]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/80988367</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/80988367</guid><author>harry_128</author><pubDate>Tue, 10 Jul 2018 16:43:43 +0800</pubDate><description><![CDATA[趁机总结一下之前遇到过的一些小trick吧：数据预处理时vocab的选取（前N个高频词或者过滤掉出现次数小于3的词等等）词向量的选择，可以使用预训练好的词向量如谷歌、facebook开源出来的，当训练集比较大的时候也可以进行微调或者随机初始化与训练同时进行。训练集较小时就别微调了结合要使用的模型，这里可以把数据处理成char、word或者都用等有时将词性标注信息也加入训练数据会收到比较好的效果至于...]]></description><category></category></item><item><title><![CDATA[机器学习中使用正则化来防止过拟合是什么原理？]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/80927324</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/80927324</guid><author>harry_128</author><pubDate>Thu, 05 Jul 2018 15:06:49 +0800</pubDate><description><![CDATA[从知乎整理而来



1

过拟合是一种现象。当我们提高在训练数据上的表现时，在测试数据上反而下降，这就被称为过拟合，或过配。过拟合发生的本质原因，是由于监督学习问题的不适定：在高中数学我们知道，从n个（线性无关）方程可以解n个变量，解n+1个变量就会解不出。在监督学习中，往往数据（对应了方程）远远少于模型空间（对应了变量）。因此过拟合现象的发生，可以分解成以下三点：有限的训练数据不能完全反映出一...]]></description><category></category></item><item><title><![CDATA[统一视角 看分类问题]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/80831045</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/80831045</guid><author>harry_128</author><pubDate>Wed, 27 Jun 2018 16:20:10 +0800</pubDate><description><![CDATA[现在的分类学习算法太多了，有时候我们不仅要问：这么多算法，都是做的分类问题，那它们有没有一个共同的源头？如果有，那么从这个共同的源头出发，它们各自是怎么发展起来的？如果能看清这些本质，对分类学习算法的理解应该能够更加深刻. 本文尝试从一种自上而下，类似高屋建瓴的方式来为众多的分类学习算法建立一个统一的视角. 通常，一个学习过程会涉及到3个步骤：提出假设—&amp;gt;建立模型(如凸优化问题)—&amp;gt;求...]]></description><category></category></item><item><title><![CDATA[交叉熵和相对熵(KL散度)]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/80828881</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/80828881</guid><author>harry_128</author><pubDate>Wed, 27 Jun 2018 14:36:59 +0800</pubDate><description><![CDATA[说交叉熵之前先介绍相对熵，相对熵又称为KL散度（Kullback-Leibler Divergence），用来衡量两个分布之间的距离，记为DKL(p||q)DKL(p||q)D_{KL}(p||q)

DKL(p||q)=∑x∈Xp(x)logp(x)q(x)=∑x∈Xp(x)log&amp;nbsp;p(x)−∑x∈Xp(x)log&amp;nbsp;q(x)=−H(p)−∑x∈Xp(x)log&amp;nbsp;q(...]]></description><category></category></item><item><title><![CDATA[逻辑回归]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/80826241</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/80826241</guid><author>harry_128</author><pubDate>Wed, 27 Jun 2018 11:11:19 +0800</pubDate><description><![CDATA[1.简介

  逻辑回归是面试当中非常喜欢问到的一个机器学习算法，因为表面上看逻辑回归形式上很简单，很好掌握，但是一问起来就容易懵逼。所以在面试的时候给大家的第一个建议不要说自己精通逻辑回归，非常容易被问倒，从而减分。下面总结了一些平常我在作为面试官面试别人和被别人面试的时候，经常遇到的一些问题。




2.正式介绍

 如何凸显你是一个对逻辑回归已经非常了解的人呢。那就是用一句话概括它！**逻...]]></description><category></category></item><item><title><![CDATA[PCA 和 SVD 原理区别]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/80663919</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/80663919</guid><author>harry_128</author><pubDate>Tue, 12 Jun 2018 13:05:44 +0800</pubDate><description><![CDATA[最近无意中又看到了PCA和SVD，又有些新的想法。

PCA 和 SVD都是对数据进行降维，但是方法不一样。

PCA 是用特征向量来进行降维，但是很多只有方阵有特征向量。 
SVD则更普遍一点，可以对一般的矩阵进行降维，本身就是一种矩阵分解方法...]]></description><category></category></item><item><title><![CDATA[中国的互联网经济]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/80550103</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/80550103</guid><author>harry_128</author><pubDate>Sat, 02 Jun 2018 18:06:10 +0800</pubDate><description><![CDATA[从民众对互联网经济的热衷、支持，到政府寄予厚望、加以扶持，再到遭受普遍的质疑、批评乃至痛骂，不过匆匆数年时间。问题究竟在哪里？如果我们只将眼光局限于电商售假、网约车殒命，甚至我们只将眼光局限于资本补贴、监管不力，都不足以认识到中国互联网经济问题的实质，也无助于作出深刻的反思。本文的目的，在于提供一个更为广阔的视角，去分析中国互联网经济各类问题的根源。

这不是一篇适合快读的文章，希望读者稍有耐心，...]]></description><category></category></item><item><title><![CDATA[python list去重方法及效率]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/80536305</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/80536305</guid><author>harry_128</author><pubDate>Fri, 01 Jun 2018 13:15:01 +0800</pubDate><description><![CDATA[1、直观方法

li=[1,2,3,4,5,1,2,3]
new_li=[]
for i in li:
    if i not in new_li:
        new_li.append(i)
print(new_li)

总结：这样可以做出来，但是效率不行。但是此方法保证了列表的顺序性。

2、利用set的自动去重功能

li=[1,2,3,4,5,1,2,3]
li=list(set(...]]></description><category></category></item><item><title><![CDATA[K-Means聚类最优k值的选取]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/80523568</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/80523568</guid><author>harry_128</author><pubDate>Thu, 31 May 2018 14:45:30 +0800</pubDate><description><![CDATA[最近做一个文本分类的项目，在最开始的时候会用到K-means的聚类方法，因此需要在文本上找到最佳的聚类数。



1. 手肘法



1.1 理论

手肘法的评价K值好坏的标准是SSE（sum of the squared errors）

SSE=∑p∈Ci|p−mi|2SSE=∑p∈Ci|p−mi|2SSE= \sum_{p\in C_i}|p-m_i|^2

其中 CiCiC_i代表第iii...]]></description><category></category></item><item><title><![CDATA[距离度量的对比分析]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/80523116</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/80523116</guid><author>harry_128</author><pubDate>Thu, 31 May 2018 13:51:19 +0800</pubDate><description><![CDATA[余弦距离、欧氏距离和杰卡德距离度量的对比分析

1. 余弦距离

余弦距离，也称为余弦相似度 是用两个向量夹角的余弦值作为衡量两个向量差异的度量。



2. 欧式距离

欧式距离，是计算两个空间向量的欧几里得距离，也就是传统上两个点的距离，只不过这个时候点是多维的。



3. 杰卡德

两个集合A和B交集元素的个数在A、B并集中所占的比例，称为这两个集合的杰卡德系数，用符号 J(A,B) 表示...]]></description><category></category></item><item><title><![CDATA[生成方法和判别方法的复习]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/80495736</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/80495736</guid><author>harry_128</author><pubDate>Tue, 29 May 2018 14:19:11 +0800</pubDate><description><![CDATA[监督学习可以分为生成方法与判别方法，所学到的模型可以分为生成模型与判别模型。

生成模型 
生成模型由数据学习联合概率分布P(X,Y)，然后求出条件概率分布P(Y|X)作为预测的模型，即生成模型：

P(Y|X)=P(X,Y)P(X)

这样的方法之所以称为生成方法，是因为模型表示了给定输入X产生输出Y的生成关系。典型的生成模型有：朴素贝叶斯法和隐马尔可夫模型



判别模型

判别方法由数据直接...]]></description><category></category></item><item><title><![CDATA[简单的爬虫]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/80406247</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/80406247</guid><author>harry_128</author><pubDate>Tue, 22 May 2018 15:20:01 +0800</pubDate><description><![CDATA[这几天来一直在做爬虫的工作，除了因为开始因为不熟悉爬虫所以学的时候比较花时间之外，其他大多数时候都还是比较顺利，中间除了遇到xpath的问题，其他就还好。

就我目前的理解而言爬虫总共是分为三个步骤。 
1. 通过URL获取网页 
2. 获取网页之后对网页进行解析 
3. 将解析之后需要的内容存贮起来



获取网页

这一步因为是涉及到问url要东西，因此会面临反爬，编码格式，请求头以及cook...]]></description><category></category></item><item><title><![CDATA[5-15~5-17 七牛工作总结：足球爬虫]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/80355897</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/80355897</guid><author>harry_128</author><pubDate>Thu, 17 May 2018 19:48:27 +0800</pubDate><description><![CDATA[周末回到宿舍就凌晨两三点了，因此周一回来状态很差也没做什么工作就只是查了查关于足球点球的可以爬的网站，周二和周三就开始做爬虫了，但是因为之前没做过，做的进度很慢。 
周二下午开始做，因为之前没接触过就一直在学，直到周二结束才写出来一个完整可以简单部分跑起来的爬虫程序，才知道大概爬虫的流程以及相关的库的操作，不过最大的收获或许是在过程中让自己更习惯于同人交流，在沟通中解决问题，这让我学习的速度一下子...]]></description><category></category></item><item><title><![CDATA[5-11~5-12成都29所，10所参观记录]]></title><link>https://blog.youkuaiyun.com/harry_128/article/details/80342825</link><guid>https://blog.youkuaiyun.com/harry_128/article/details/80342825</guid><author>harry_128</author><pubDate>Wed, 16 May 2018 20:50:43 +0800</pubDate><description><![CDATA[背景互联网企业给计算机学生的价码越来越高，传统的军工背景研究所越来越难招到计算机背景的学生，另外计算机又越来越重要。因此才有了学校包吃包住包机票让我们计算机学院四川籍的学生去成都的研究所参观的活动。

我是五月十号晚上去的成都，九点钟的飞机，在武林门机场大巴等老乡的时候，等到七点老乡才到，而且我们问了才知道原来老乡已经上车了马上要走了。幸好我们问了一句 不然还在等（以后要沉住气）。到了机场之后，安...]]></description><category></category></item></channel></rss>