<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[nini_coded的博客]]></title><description><![CDATA[在学习过程中总结和分享一点简单的想法]]></description><link>https://blog.youkuaiyun.com/nini_coded</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; nini_coded]]></copyright><item><title><![CDATA[tf.cond()函数]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/80531923</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/80531923</guid><author>nini_coded</author><pubDate>Thu, 31 May 2018 23:50:24 +0800</pubDate><description><![CDATA[tf.cond()函数]]></description><category></category></item><item><title><![CDATA[tf.add_to_collection与tf.get_collection函数]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/80528466</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/80528466</guid><author>nini_coded</author><pubDate>Thu, 31 May 2018 18:29:00 +0800</pubDate><description><![CDATA[tf.add_to_collection是把多个变量放入一个自己y用引号命名的集合里，也就是把多个变量统一放在一个列表中。

tf.get_collection与之相反，是从列表中取出所有元素，构成一个新的列表。

这一看这个tf.get_collection好像没什么作用，前后都还是列表。其实这样做是因为：

例如： 
之前用tf.add_to_collection将多个变量放在命名为‘regu...]]></description><category></category></item><item><title><![CDATA[python匿名函数：lambda函数]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79852418</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79852418</guid><author>nini_coded</author><pubDate>Sun, 08 Apr 2018 15:15:20 +0800</pubDate><description><![CDATA[lambda函数也叫做匿名函数，即不需要用def单独定义，没有函数名。一般为了在表达式中书写简便，比如表示式的一部分需要对某个参数做简单的运算操作，由于运算操作十分简单觉得没必要单独用def定义一个函数来实现它，就可以用lambda函数直接书写

lambda函数格式： 
 lambda parameters:express 
 冒号前的变量（允许空）作为参数传到后面的表达式中参与运算，表达式不能...]]></description><category></category></item><item><title><![CDATA[tf.slice()介绍]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79852031</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79852031</guid><author>nini_coded</author><pubDate>Sun, 08 Apr 2018 14:55:49 +0800</pubDate><description><![CDATA[函数：tf.slice(inputs, begin, size, name)

作用：从列表、数组、张量等对象中抽取一部分数据

begin和size是两个多维列表，他们共同决定了要抽取的数据的开始和结束位置

begin表示从inputs的哪几个维度上的哪个元素开始抽取 
size表示在inputs的各个维度上抽取的元素个数

若begin[]或size[]中出现-1,表示抽取对应维度上的所有元...]]></description><category></category></item><item><title><![CDATA[ResNet个人理解]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79582902</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79582902</guid><author>nini_coded</author><pubDate>Fri, 16 Mar 2018 15:55:32 +0800</pubDate><description><![CDATA[2015年最火的ResNet现在看已经是过去时了，后来的DenseNet、Mask-RCNN等架构的出现已经磨平了2015CVPR best paper的锋芒。ResNet的想法非常简单，学过闭环反馈的话都会自然地想到是不是可以将信息跳跃式地反穿？当然，结构上看ResNet是正向的一个skip connection (shortcut)。其实一直以来我都不理解为什么ResNet能够解决深层网络效果...]]></description><category></category></item><item><title><![CDATA[INSIGHT]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79556391</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79556391</guid><author>nini_coded</author><pubDate>Wed, 14 Mar 2018 16:21:25 +0800</pubDate><description><![CDATA[The truth is like some substance. He exists in the high-dimensional space of the universe. People pursue the truth and they can only guess him with various interesting methods and approach him, but he...]]></description><category></category></item><item><title><![CDATA[线性代数基本公式结论简要总结(5)]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79501807</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79501807</guid><author>nini_coded</author><pubDate>Fri, 09 Mar 2018 19:20:49 +0800</pubDate><description><![CDATA[本文总结对称矩阵、二次型和奇异值分解等内容。

由于对称矩阵具有许多良好的性质，工程上被广泛应用。二次型和奇异值分解也是由对称矩阵具有的特殊性质推广得到的

首先不要忘了之前讲特征值时提到的对角化公式： 
A=PDP−1A=PDP−1A=PDP^{-1} 
A具有n个线性无关的特征值，P的列空间由A的特征向量构成，D是对角线元素为A的特征值的对角矩阵

若A为对称矩阵，则其不同特征空间中（一个特征...]]></description><category></category></item><item><title><![CDATA[线性代数基本公式结论简要总结(4)]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79495729</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79495729</guid><author>nini_coded</author><pubDate>Fri, 09 Mar 2018 12:14:26 +0800</pubDate><description><![CDATA[本文复习矩阵的特征值、特征向量、对角化、正交性（投影、施密特正交化、QR分解、内积空间）等内容。

特征值和特征向量： 
def:A为n×n矩阵，x为非零向量，若存在数λλ\lambda使Ax=λxAx=λxAx=\lambda x成立，则称λλ\lambda为A的特征值，x称为对应于λλ\lambda的特征向量。

矩阵的特征值表征了矩阵的一些很重要的特征，特征值越大，说明其涵盖了矩阵越多的信息...]]></description><category></category></item><item><title><![CDATA[线性代数基本公式结论简要总结(3)]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79491020</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79491020</guid><author>nini_coded</author><pubDate>Thu, 08 Mar 2018 22:24:16 +0800</pubDate><description><![CDATA[本文总结向量空间的一些内容，由于向量空间的知识（子空间、矩阵的行列空间、空间的基、线性无关、空间维数、秩）在上一篇文章中已有很多介绍，因此本文着重回顾马尔科夫矩阵和傅里叶级数

马尔科夫（Markov）矩阵： 
def:一个具有非负分量（元素）且各分量（元素）数值相加等于1的向量称为概率向量；马尔科夫矩阵又称随机矩阵，是各列向量均为概率向量的方阵

马尔科夫链：由一组概率向量序列x0,x1,x2....]]></description><category></category></item><item><title><![CDATA[线性代数基本公式结论简要总结(2)]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79490636</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79490636</guid><author>nini_coded</author><pubDate>Thu, 08 Mar 2018 21:52:50 +0800</pubDate><description><![CDATA[本文主要总结矩阵代数（运算、逆、分块矩阵、LU分解、子空间、秩）和行列式相关内容。

矩阵乘积AB的每一列都是A各列的线性组合，且以B中对应的列的元素作为权重。

矩阵的幂： 
只有方阵可以乘幂，幂的计算可以利用矩阵对角化（特征值分解）实现： 
A=PΛP−1A=PΛP−1A=P\Lambda P^{-1} 
Ak=PΛkP−1Ak=PΛkP−1A^k=P\Lambda ^kP^{-1} 
其中Λ...]]></description><category></category></item><item><title><![CDATA[矩阵特征值的理解]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79478958</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79478958</guid><author>nini_coded</author><pubDate>Thu, 08 Mar 2018 01:24:20 +0800</pubDate><description><![CDATA[矩阵特征值的理解

待续]]></description><category></category></item><item><title><![CDATA[线性代数基本公式结论简要总结(1)]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79478887</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79478887</guid><author>nini_coded</author><pubDate>Thu, 08 Mar 2018 00:39:06 +0800</pubDate><description><![CDATA[这两天在结合教材和MIT公开课的视频复习线代，希望能够在短时间内捡起两年前学过的东西。当时线代给我的最大感觉就是十分抽象，总是毫无道理地就给出一堆定义、概念和一些奇怪的公式推演，平时做的书后题和考试题大多数有很强技巧性的各种计算，最后感觉学到的全都是各种“毫无关联”的概念、公式和计算套路。

因此最近复习时，着重思考和查找了许多概念之间存在的联系，以及它们的内在意义和常见应用场景，总结在博客的“线...]]></description><category></category></item><item><title><![CDATA[特征提取— —Hog算法]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79394895</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79394895</guid><author>nini_coded</author><pubDate>Wed, 28 Feb 2018 01:57:08 +0800</pubDate><description><![CDATA[HOG（Histogram of Oriented Gridients），方向梯度直方图，通过计算和统计图像局部区域的梯度方向直方图来构成图像的局部特征，在deep learning出现之前被广泛用于行人检测：Hog提取特征+SVM分类器，这一方法由Dalal等在2005年的CVPR上提出。

整体方法：通过计算各个像素点的梯度大小和梯度方向，获取图像中各个局部的边缘方向的分布信息，并进行局部性的...]]></description><category></category></item><item><title><![CDATA[集成学习方法及思想总结]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79341485</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79341485</guid><author>nini_coded</author><pubDate>Tue, 20 Feb 2018 23:46:18 +0800</pubDate><description><![CDATA[集成学习（Ensemble Learning）有时也被笼统地称作提升（Boosting）方法，广泛用于分类和回归任务。它最初的思想很简单：使用一些（不同的）方法改变原始训练样本的分布，从而构建多个不同的分类器，并将这些分类器线性组合得到一个更强大的分类器，来做最后的决策。也就是常说的“三个臭皮匠顶个诸葛亮”的想法。

集成学习的理论基础来自于Kearns和Valiant提出的基于PAC（proba...]]></description><category></category></item><item><title><![CDATA[数据的归一化与标准化]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79327351</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79327351</guid><author>nini_coded</author><pubDate>Thu, 15 Feb 2018 02:35:34 +0800</pubDate><description><![CDATA[机器学习中常见数据的归一化（normalization）和标准化（standardization），其实这二者的作用和处理方法都很相似，本文作简单介绍。

两者的基本作用是消除不同变量之间量纲的影响，方便数据处理。在机器学习中的作用是：

1. 提高模型的收敛速度 
假设某一模型包含两个特征x1,x2x1,x2x_1,x_2，x1x1x_1数值很大，而 x2x2x_2数值很小，两者的取值在平面上呈...]]></description><category></category></item><item><title><![CDATA[浅析网络梯度弥散与梯度爆炸]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79314026</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79314026</guid><author>nini_coded</author><pubDate>Sun, 11 Feb 2018 23:45:04 +0800</pubDate><description><![CDATA[浅析网络梯度弥散与梯度爆炸

待续]]></description><category></category></item><item><title><![CDATA[正则化原理总结]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79307922</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79307922</guid><author>nini_coded</author><pubDate>Sun, 11 Feb 2018 02:25:28 +0800</pubDate><description><![CDATA[正则化理论（Regularization Theory）是 Tikhonov于1963年提出的一种用以解决逆问题的不适定性的方法。不适定性通常由一组线性代数方程定义，这组方程组由于具有很大的系数而使得它的反问题（已知系统输出求输入）存在多解。

正则化理论就是用来对原始问题的最小化经验误差函数（损失函数）加上某种约束，这种约束可以看成是人为引入的某种先验知识(正则化参数等价于对参数引入先验分布)，...]]></description><category></category></item><item><title><![CDATA[简析过拟合与欠拟合]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79304498</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79304498</guid><author>nini_coded</author><pubDate>Sat, 10 Feb 2018 13:59:29 +0800</pubDate><description><![CDATA[欠拟合与过拟合问题是机器学习中的经典问题，尽管相关的讨论和预防方法非常多，但目前在许多任务中仍经常会出现过拟合等问题，还没有找到一个十分通用、有效的解决方法。不过总体上看，现在人们常用的一些很简洁的方法基本上能够较好地解决欠拟合与过拟合问题，总结如下。

欠拟合与过拟合的概念的成因比较简单，观点统一，这里不再介绍。现在常用的判断方法是从训练集中随机选一部分作为一个验证集，采用K折交叉验证的方式，用...]]></description><category></category></item><item><title><![CDATA[参数随机初始化方法：xavier_init()]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79302820</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79302820</guid><author>nini_coded</author><pubDate>Sat, 10 Feb 2018 02:09:50 +0800</pubDate><description><![CDATA[初始化方法由Bengio等人在2010年的论文《Understanding the difficulty of training deep feedforward neural networks》中提出。

它为了保证前向传播和反向传播时每一层的方差一致，根据每层的输入个数和输出个数来决定参数随机初始化的分布范围，是一个通过该层的输入和输出参数个数得到的分布范围内的均匀分布。 
公式如下： 
U[...]]></description><category></category></item><item><title><![CDATA[dropout原理与实现]]></title><link>https://blog.youkuaiyun.com/nini_coded/article/details/79302800</link><guid>https://blog.youkuaiyun.com/nini_coded/article/details/79302800</guid><author>nini_coded</author><pubDate>Sat, 10 Feb 2018 01:46:48 +0800</pubDate><description><![CDATA[dropout作为一种预防CNN过拟合的正则化方法被Hinton等人在2012年的经典论文《ImageNet Classification with Deep Convolutional》中提出。dropout的原理很简单：在一次训练时的迭代中，对每一层中的神经元（总数为N）以概率P随机剔除，用余下的（1-P）×N个神经元所构成的网络来训练本次迭代中的数据（batchsize个样本）。

关于dr...]]></description><category></category></item></channel></rss>