<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[鲨鱼大哥的专栏]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/qingyang666</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; qingyang666]]></copyright><item><title><![CDATA[操作系统、计算机网络、python题目整理]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/84027446</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/84027446</guid><author>qingyang666</author><pubDate>Tue, 13 Nov 2018 13:50:18 +0800</pubDate><description><![CDATA[计算机操作系统：

https://blog.youkuaiyun.com/qq_32690999/article/details/78069414

计算机网络题目整理：

http://www.cnblogs.com/zyf-zhaoyafei/p/4716297.html

linux 题目整理：

http://www.cnblogs.com/mrgavin/p/9330912.html

pytho...]]></description><category></category></item><item><title><![CDATA[初学者的卡尔曼滤波——扩展卡尔曼滤波]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/83989044</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/83989044</guid><author>qingyang666</author><pubDate>Mon, 12 Nov 2018 15:09:35 +0800</pubDate><description><![CDATA[简介

转自：http://www.cnblogs.com/ymxiansen/p/5368547.html

　　已经历经了半个世纪的卡尔曼滤波至今仍然是研究的热点，相关的文章不断被发表。其中许多文章是关于卡尔曼滤波器的新应用，但也不乏改善和扩展滤波器算法的研究。而对算法的研究多着重于将卡尔曼滤波应用于非线性系统。

　　为什么学界要这么热衷于将卡尔曼滤波器用于非线性系统呢？因为卡尔曼滤波器从一...]]></description><category></category></item><item><title><![CDATA[extern 关键字 static关键字 virutal 关键字]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/83690062</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/83690062</guid><author>qingyang666</author><pubDate>Sat, 03 Nov 2018 19:57:41 +0800</pubDate><description><![CDATA[extern

1、声明外部变量

extern 用来修饰变量或者函数名，用以在一个文件中定义，但是可以在其他文件中进行使用的。

例如在A文件中定义了 全局变量 int mm=0;你在另一个文件B中也定 定义了 int mm=0; 编译时时候不会出错，因为编译时以文件为单位作用域在本文件中。但是在链接是后出错，因为他会将多文件进行合并生成obj 全局变量的存储空间合并为一块儿，导致重名；如果加上...]]></description><category></category></item><item><title><![CDATA[深度学习拾遗]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/83311971</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/83311971</guid><author>qingyang666</author><pubDate>Tue, 23 Oct 2018 19:57:09 +0800</pubDate><description><![CDATA[深度学习：hinton bp算法，李飞飞，吴恩达，黄广斌，路奇

深度学习优化的超参数：1）学习率
学习率（learning rate或作lr）是指在优化算法中更新网络权重的幅度大小。学习率可以是恒定的、逐渐降低的，基于动量的或者是自适应的。不同的优化算法决定不同的学习率。当学习率过大则可能导致模型不收敛，损失loss不断上下震荡；学习率过小则导致模型收敛速度偏慢，需要更长的时间训练。通常lr取值...]]></description><category></category></item><item><title><![CDATA[教你透彻了解红黑树]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/82987342</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/82987342</guid><author>qingyang666</author><pubDate>Tue, 09 Oct 2018 19:31:39 +0800</pubDate><description><![CDATA[教你透彻了解红黑树

原文：https://github.com/julycoding/The-Art-Of-Programming-By-July/blob/master/ebook/zh/03.01.md

二叉查找树

由于红黑树本质上就是一棵二叉查找树，所以在了解红黑树之前，咱们先来看下二叉查找树。

二叉查找树（Binary Search Tree），也称有序二叉树（ordered bi...]]></description><category></category></item><item><title><![CDATA[手撕SVM]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/81663456</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/81663456</guid><author>qingyang666</author><pubDate>Tue, 14 Aug 2018 11:12:50 +0800</pubDate><description><![CDATA[支撑向量机 SVM

1. 支撑向量机 SVM

1. 什么是SVM

Support Vector Machine


解决的是线性可分问题
	Hard Margin SVM
	Soft Margin SVM
2. SVM背后的最优化问题

点到直线的距离


支撑向量机




我们也可以将两个式子变成一个


最优化目标


这是一个有条件的最优化问题
3. Soft Margin SVM
...]]></description><category></category></item><item><title><![CDATA[C++基础：]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/81240343</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/81240343</guid><author>qingyang666</author><pubDate>Fri, 27 Jul 2018 17:22:02 +0800</pubDate><description><![CDATA[什么是多态：（哑巴了吧，你知道你倒是说呀），所谓多态也就是一个接口的多种实现方式。

多态包括：虚函数，纯虚函数，覆盖，模板（重载与多态没有关系）

虚函数：虚函数是带有virtual关键字的函数，定义一个函数为虚函数，定义他为虚函数是为了允许用基类的指针来调用子类的这个函数。纯虚函数是 类似 virtual void hanShu(int B)=0;这样的函数。带有纯虚函数的类是抽象类，必须实例...]]></description><category></category></item><item><title><![CDATA[进程与线程]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/81180598</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/81180598</guid><author>qingyang666</author><pubDate>Tue, 24 Jul 2018 10:57:43 +0800</pubDate><description><![CDATA[进程与线程的理解：

（1）调度：
        在传统的操作系统中，CPU调度和分派的基本单位是进程。而在引入线程的操作系统中，则把线程作为CPU调度和分派的基本单位，进程则作为资源拥有的基本单位，从而使传统进程的两个属性分开，线程编程轻装运行，这样可以显著地提高系统的并发性。同一进程中线程的切换不会引起进程切换，从而避免了昂贵的系统调用，但是在由一个进程中的线程切换到另一进程中的线程，依然会...]]></description><category></category></item><item><title><![CDATA[详解卡尔曼滤波]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/81094859</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/81094859</guid><author>qingyang666</author><pubDate>Wed, 18 Jul 2018 13:52:08 +0800</pubDate><description><![CDATA[轻松一下看一个例子：

一片绿油油的草地上有一条曲折的小径，通向一棵大树。一个要求被提出：从起点沿着小径走到树下。
“很简单。” A说，于是他丝毫不差地沿着小径走到了树下。
现在，难度被增加了：蒙上眼。
“也不难，我当过特种兵。” B说，于是他歪歪扭扭地走到了树 ………. 旁。“唉，好久不练，生疏了。”
“看我的，我有 DIY 的 GPS！” C说，于是他像个醉汉似地走到了树………. 旁。“唉，这...]]></description><category></category></item><item><title><![CDATA[稀疏自编码器 栈式自编码器 深度学习预训练]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/78175056</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/78175056</guid><author>qingyang666</author><pubDate>Sun, 08 Oct 2017 15:03:38 +0800</pubDate><description><![CDATA[https://www.zhihu.com/question/41490383/answer/103006793]]></description><category></category></item><item><title><![CDATA[正则化方法：L1和L2 regularization、数据集扩增、dropout]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/73017488</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/73017488</guid><author>qingyang666</author><pubDate>Sun, 11 Jun 2017 11:58:33 +0800</pubDate><description><![CDATA[正则化方法：防止过拟合，提高泛化能力
在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其直观的表现如下图所示，随着训练过程，网络在training data上的error渐渐减小，但是在验证集上的error却反而渐渐增大——因为训练出来的网络过拟合了训练集，对训练集外的数据却效果变得越来越差。


为了防止overfitting，可以用的方法]]></description><category></category></item><item><title><![CDATA[深度学习之减少过拟合的可能性]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/70453275</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/70453275</guid><author>qingyang666</author><pubDate>Sat, 22 Apr 2017 17:13:17 +0800</pubDate><description><![CDATA[原文地址：一只鸟的天空，http://blog.youkuaiyun.com/heyongluoyao8/article/details/49429629

防止过拟合的处理方法

过拟合

  我们都知道，在进行数据挖掘或者机器学习模型建立的时候，因为在统计学习中，假设数据满足独立同分布（i.i.d，independently and identically distributed），即当前已产生的数...]]></description><category></category></item><item><title><![CDATA[神经网络优化（初始化权重）]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/70448076</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/70448076</guid><author>qingyang666</author><pubDate>Sat, 22 Apr 2017 16:07:16 +0800</pubDate><description><![CDATA[使隐藏层饱和了, 跟之前我们说的输出层饱和问题相似, 对于输出层,我们用改进的cost函数,比如cross-entropy, 但是对于隐藏层, 我们无法通过cost函数来改进


更好的方法来初始化权重?


因为传统的初始化权重问题是用标准正态分布（均值为0，方差为1）随机初始化的，这其实是存在不合理的部分。



标准正态分布：






可以看出真实数据的]]></description><category></category></item><item><title><![CDATA[简单易学的机器学习算法——Softmax Regression]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/70285249</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/70285249</guid><author>qingyang666</author><pubDate>Thu, 20 Apr 2017 18:36:27 +0800</pubDate><description><![CDATA[Contents
 [hide]

1 简介2 代价函数3 Softmax回归模型参数化的特点4 权重衰减5 Softmax回归与Logistic
 回归的关系6 Softmax
 回归 vs. k 个二元分类器7 中英文对照8 中文译者





简介

在本节中，我们介绍Softmax回归模型，该模型是logistic回归模型在多分类问题上的推广，在多分类问题中，类标]]></description><category></category></item><item><title><![CDATA[一文弄懂神经网络中的反向传播法——BackPropagation]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/70275152</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/70275152</guid><author>qingyang666</author><pubDate>Thu, 20 Apr 2017 17:32:49 +0800</pubDate><description><![CDATA[最近在看深度学习的东西，一开始看的吴恩达的UFLDL教程，有中文版就直接看了，后来发现有些地方总是不是很明确，又去看英文版，然后又找了些资料看，才发现，中文版的译者在翻译的时候会对省略的公式推导过程进行补充，但是补充的又是错的，难怪觉得有问题。反向传播法其实是神经网络的基础了，但是很多人在学的时候总是会遇到一些问题，或者看到大篇的公式觉得好像很难就退缩了，其实不难，就是一个链式求导法则反复用。如果]]></description><category></category></item><item><title><![CDATA[交叉熵代价函数（cross-entropy cost function）]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/70245855</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/70245855</guid><author>qingyang666</author><pubDate>Wed, 19 Apr 2017 22:00:13 +0800</pubDate><description><![CDATA[1.从方差代价函数说起

代价函数经常用方差代价函数（即采用均方误差MSE），比如对于一个神经元（单输入单输出，sigmoid函数）,定义其代价函数为：



其中y是我们期望的输出，a为神经元的实际输出【 a=σ(z), where z=wx+b 】。

在训练神经网络过程中，我们通过梯度下降算法来更新w和b，因此需要计算代价函数对w和b的导数：



然后更新w、b：]]></description><category></category></item><item><title><![CDATA[贝叶斯分类器]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/68922485</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/68922485</guid><author>qingyang666</author><pubDate>Fri, 31 Mar 2017 10:44:11 +0800</pubDate><description><![CDATA[0、写在前面的话

      我个人一直很喜欢算法一类的东西，在我看来算法是人类智慧的精华，其中蕴含着无与伦比的美感。而每次将学过的算法应用到实际中，并解决了实际问题后，那种快感更是我在其它地方体会不到的。

      一直想写关于算法的博文，也曾写过零散的两篇，但也许是相比于工程性文章来说太小众，并没有引起大家的兴趣。最近面临毕业找工作，为了能给自己增加筹码，决定再次复习算法方面的知]]></description><category></category></item><item><title><![CDATA[集成学习 (AdaBoost、Bagging、随机森林 ) python 预测]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/66472981</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/66472981</guid><author>qingyang666</author><pubDate>Sun, 26 Mar 2017 11:30:34 +0800</pubDate><description><![CDATA[首先明确一下回归与分类的区别：


分类和回归的区别在于输出变量的类型。

定量输出称为回归，或者说是连续变量预测；

定性输出称为分类，或者说是离散变量预测。

举个例子：
预测明天的气温是多少度，这是一个回归任务；
预测明天是阴、晴还是雨，就是一个分类任务；


决策树三种算法特性对比：

ID3特点:
（1）节点优先选取采用信息增益作为标准。
（2）容易造]]></description><category></category></item><item><title><![CDATA[决策树与随机森林]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/64906722</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/64906722</guid><author>qingyang666</author><pubDate>Wed, 22 Mar 2017 20:24:46 +0800</pubDate><description><![CDATA[首先，在了解树模型之前，自然想到树模型和线性模型有什么区别呢？其中最重要的是，树形模型是一个一个特征进行处理，之前线性模型是所有特征给予权重相加得到一个新的值。决策树与逻辑回归的分类区别也在于此，逻辑回归是将所有特征变换为概率后，通过大于某一概率阈值的划分为一类，小于某一概率阈值的为另一类；而决策树是对每一个特征做一个划分。另外逻辑回归只能找到线性分割（输入特征x与logit之间是线]]></description><category></category></item><item><title><![CDATA[决策树]]></title><link>https://blog.youkuaiyun.com/qingyang666/article/details/62037607</link><guid>https://blog.youkuaiyun.com/qingyang666/article/details/62037607</guid><author>qingyang666</author><pubDate>Tue, 14 Mar 2017 10:50:58 +0800</pubDate><description><![CDATA[﻿﻿

算法原理
决策树（Decision Tree）是一种简单但是广泛使用的分类器。通过训练数据构建决策树，可以高效的对未知的数据进行分类。决策数有两大优点：1）决策树模型可以读性好，具有描述性，有助于人工分析；2）效率高，决策树只需要一次构建，反复使用，每一次预测的最大计算次数不超过决策树的深度。
 
如何预测
先看看下面的数据表格：




ID


拥有房产（是]]></description><category></category></item></channel></rss>