<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[宁悦的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/deramer1</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; deramer1]]></copyright><item><title><![CDATA[正则表达式入门]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/107243310</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/107243310</guid><author>deramer1</author><pubDate>Fri, 10 Jul 2020 11:40:26 +0800</pubDate><description><![CDATA[正则表达式在平时处理文本内容的时候有很大用处，这里就简单的总结一下正则表达式的用法。

一、元字符

在学习正则表达式的时候，首先要了解正则里的一些基本符号。

首先是表示一些单字符。


			. 任意字符（除换行符外）
			
			
		\d 任意数字
			\D 任意非数字
		\w 任意字母数字下划线
			\W 任意非字母数字下划线
		\s 任意空白符
			
			\S 任意非空白符
			
		有了单字符之后，需要匹配单字符出现的次数，也就是量词。

* 表示0到多次
		+ 表示1...]]></description><category></category></item><item><title><![CDATA[机器学习/深度学习/强化学习资料汇总]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/104849658</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/104849658</guid><author>deramer1</author><pubDate>Fri, 13 Mar 2020 21:48:18 +0800</pubDate><description><![CDATA[去年3月份开始学习机器学习开始，7月份学习深度学习、强化学习，经过一年多的学习终于算勉强入门。把自己搜集到的一些书籍和不错的视频推荐给大家，希望帮助大家快速入门AI，同时也是作为自己学习的一个阶段性总结。

一、机器学习

1.1 书籍类

1.周志华-西瓜书（链接：https://pan.baidu.com/s/1wE07V3XeWuUqSJvhXrK9qQ提取码：phbl）

2.李航-统计...]]></description><category></category></item><item><title><![CDATA[概率图-精确推理-变量消除法(Variable Elimination)]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/103556594</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/103556594</guid><author>deramer1</author><pubDate>Mon, 16 Dec 2019 09:29:37 +0800</pubDate><description><![CDATA[一、推理问题简介

推理问题是概率图模型的核心，分为精确推理和近似推理。推理问题可以分为3类：

1&gt;求边缘概率：

2&gt;求条件概率：

3&gt;求MAP：

二、变量消除法简介



变量消除法的思想很简单，就是对联合概率不断求和消除其中的变量，最后得到边缘分布。

如上图所示，首先对联合概率来说，先把b消元，得到中间只含a和c的表，然后对c进行求和，得到最后只含有a的概率表，对这...]]></description><category></category></item><item><title><![CDATA[神经网络-3比特异或实现]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/103445750</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/103445750</guid><author>deramer1</author><pubDate>Sun, 08 Dec 2019 16:08:54 +0800</pubDate><description><![CDATA[一、问题描述

想要实现3个比特的异或问题，即形式如下010和011的异或结果为001

0 10

0 11

0 0 1

二、数据处理

首先，完成数据集的制作，输入为6位，输出为3位。


import numpy as np

a = np.array([[0,0,0],[0,0,1],[0,1,0],[0,1,1],[1,0,0],[1,0,1],[1,1,0],[1,1,1]])...]]></description><category></category></item><item><title><![CDATA[BP神经网络]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/103443080</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/103443080</guid><author>deramer1</author><pubDate>Sun, 08 Dec 2019 15:41:36 +0800</pubDate><description><![CDATA[一、神经网络简介

神经网络的发展可以说一波三折，神经网络的前身感知机算法因为无法解决异或问题，而被明斯基批判，导致神经网络研究的衰退，后来多层感知机和BP算法的提出，让神经网络的研究得到了一定发展，可惜由于算力不够，加上同期SVM，集成方法的成功，导致研究又陷入了低谷，而后Hinton在06年提出深度学习，把神经网络又重新拉回了大家的视野，进而16年AlphaGo的成功，开启了一个新的时代-深度...]]></description><category></category></item><item><title><![CDATA[概率图-表示-贝叶斯网络]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/103429027</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/103429027</guid><author>deramer1</author><pubDate>Sat, 07 Dec 2019 11:10:42 +0800</pubDate><description><![CDATA[一、贝叶斯网例子

贝叶斯网是一种经典的概率图模型，它利用有向无环图来刻画属性之间的依赖关系。

首先来看一个的例子，一个学生想要请求教授为其写一封推荐信，推荐信的质量用变量L表示，取值范围为{是,否}。而教授健忘不知道这个学生的名字，所以要查看学生的成绩来确定是否为其写推荐信。学生成绩的取值范围为{A,B,C}，分别对应于g1,g2,g3，而考试的成绩和试题的难度还有智商有关系，他们的取值范围都...]]></description><category></category></item><item><title><![CDATA[DBSCAN算法]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/103380269</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/103380269</guid><author>deramer1</author><pubDate>Wed, 04 Dec 2019 10:04:27 +0800</pubDate><description><![CDATA[一、DBSCAN算法概念介绍

DBSCAN算法是密度聚类算法，所谓密度聚类算法就是说这个算法是，根据样本的紧密程度来进行聚类。下面来介绍一些DBSCAN中的概念。

要根据样本中的数据密度进行聚类，首先定义样本中数据密度大的地方应该怎样表示，很直观的想法就是如果A样本周围有5个样本，那么我们认为A样本是密度很高的。那你可能会说，为啥不是10个呢，周围是离A样本多远啊。这两个是我们算法中要调整的超...]]></description><category></category></item><item><title><![CDATA[层次聚类]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/103365959</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/103365959</guid><author>deramer1</author><pubDate>Tue, 03 Dec 2019 14:39:12 +0800</pubDate><description><![CDATA[一、层次聚类定义

每一种聚类方法都有其特定的数据结构，对于服从高斯分布的数据用K-Means来进行聚类效果会比较好。而对于类别之间存在层结构的数据，用层次聚类会比较好。例如，要把所有的大学专业进行分类，这很明显是一个带有层次结构的分类，计算机科学与技术，物联网工程，网络工程等等，可以看成计算机学科，而计算机学科，机械等又可以看成工科专业。最终所有的学科会划分成13个学科门类。

而实现层次聚类会...]]></description><category></category></item><item><title><![CDATA[EM算法]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/88523460</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/88523460</guid><author>deramer1</author><pubDate>Fri, 08 Nov 2019 17:06:53 +0800</pubDate><description><![CDATA[一、EM算法推导需要用到的数学知识

1.1条件分布函数

条件分布的定义如下图所示，对于条件分布需要了解的是下面两个式子：

                       

                      

1.2边缘分布函数

              ...]]></description><category></category></item><item><title><![CDATA[支持向量积【SVM】]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/88593117</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/88593117</guid><author>deramer1</author><pubDate>Thu, 24 Oct 2019 20:47:06 +0800</pubDate><description><![CDATA[支持向量积根据数据的情况分为三种。如果数据是线性可分的，则用线性可分支持向量积。如果数据是近似线性可分的，则用线性支持向量积。如果数据是不可分的，则用非线性支持向量积。

一、线性可分支持向量积

1.1 线性可分模型的定义

线性可分支持向量积的数据是线性可分，如下图所示，存在一个超平面能将数据完全分开。



而支持向量积训练的目的就是找到一个超平面能将上述的数据分开，但是能将数据分开的超平面...]]></description><category></category></item><item><title><![CDATA[最大熵模型]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/102639100</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/102639100</guid><author>deramer1</author><pubDate>Sun, 20 Oct 2019 14:42:03 +0800</pubDate><description><![CDATA[一、最大熵模型的理解

最大熵模型是由最大熵原理推导而来的，最大熵原理认为在所有可能的概率模型中，熵最大的模型是最好的模型。即在满足约束条件的情况下，所有变量的取值都是等可能的。

假设有如下的离散分布：

x
			1
			2
			......
			k
		p
			p1
			p2
			......
			pk
		   

    现在利用最大熵原理，证明熵最大的...]]></description><category></category></item><item><title><![CDATA[pandas的常见用法(2)]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/100525253</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/100525253</guid><author>deramer1</author><pubDate>Thu, 05 Sep 2019 09:04:02 +0800</pubDate><description><![CDATA[pandas在特征工程的各个部分都有应用，我们先从最开始的部分说起，数据预处理部分。

一、pandas在数据预处理中的应用

1.1 处理空值问题

在数据预处理的过程中，主要处理数据空值的问题


# 创建数据集
df = pd.DataFrame(np.random.randn(7,3),columns=['x1','x2','x3'])
# not a number 表示缺失数据
df.i...]]></description><category></category></item><item><title><![CDATA[pandas常见用法]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/100154625</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/100154625</guid><author>deramer1</author><pubDate>Sat, 31 Aug 2019 13:24:22 +0800</pubDate><description><![CDATA[pandas在kaggle比赛中比较常见，基本上所有的数据都会读入pandas，然后在pandas里面进行各种特征工程，包括特征筛选，特征组合等等。下面列出常见的pandas用法。

目录

一、数据的读取与保存

二、DataFrame中的列对象-Series

2.1 Series对象的创建               ​

2.2 Series对象的一些属性和...]]></description><category></category></item><item><title><![CDATA[numpy常见用法]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/100145737</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/100145737</guid><author>deramer1</author><pubDate>Fri, 30 Aug 2019 10:18:48 +0800</pubDate><description><![CDATA[目录

一、numpy数组的创建

1.1 手动创建

1.2 调用numpy函数创建

1.3 创建连续数组

二、numpy数据类型以及本身操作

2.1 numpy的数据类型及转换

2.2 numpy数组的shape即转换

三、取numpy数组中的值

3.1切片索引

3.2布尔索引

3.3 花式索引

四、numpy数组的计算

4.1 numpy数组本身的计算

4.2 与其...]]></description><category></category></item><item><title><![CDATA[kaggle比赛-House Prices：baseline-v1]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/99330201</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/99330201</guid><author>deramer1</author><pubDate>Mon, 12 Aug 2019 21:16:03 +0800</pubDate><description><![CDATA[学完机器学习的基本算法之后，想找一个实践的机会。于是就瞄准了kaggle比赛，先从最基本的房价预测开始，这是一个比较简单的比赛。

一、赛题分析

训练集数据是1460x81的数据，其中1460是数据条数，80列是有关房价的特征，1列是房价。

测试集数据是1459x80的数据，其中1459是数据条数，80列是有关房价的特征，没有房价的标签

从数据集的分布来看，标签是一个连续值，这是一个回归的问...]]></description><category></category></item><item><title><![CDATA[线性回归-波士顿房价预测]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/89920548</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/89920548</guid><author>deramer1</author><pubDate>Tue, 07 May 2019 15:06:18 +0800</pubDate><description><![CDATA[这篇文章介绍用线性回归解决波士顿房价的预测问题，线性回归的原理部分参见线性回归博客。

一、了解数据

首先导入需要的包


import numpy as np
import matplotlib.pyplot as plt
import pandas as pd
import seaborn as sns
from sklearn.datasets import load_boston
fro...]]></description><category></category></item><item><title><![CDATA[高斯分布]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/89523518</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/89523518</guid><author>deramer1</author><pubDate>Fri, 26 Apr 2019 10:41:23 +0800</pubDate><description><![CDATA[高斯分布在整个机器学习中都频繁出现，比如，在一开始学习线性回归的时候，在涉及到他的概率解释的时候，假设噪声服从高斯分布。在高斯混合模型（GMM），高斯判别分析（LDA）等等中，都涉及到了高斯分布，所以这里结合CS229课程笔记和机器学习-白板推导（二）-数学基础来对高斯分布进行一个介绍。

一、一维高斯分布

一维高斯分布的概率密度函数如下：



下面是均值为0，方差为1的高斯分布图像：



...]]></description><category></category></item><item><title><![CDATA[主成分分析【PCA】]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/89465368</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/89465368</guid><author>deramer1</author><pubDate>Tue, 23 Apr 2019 16:48:30 +0800</pubDate><description><![CDATA[一、背景

在讲PCA之间，我们先来讨论一下过拟合的问题。通常遇到过拟合，会有两种方式解决。增加训练的数据、正则化。在数据很难增加的情况下，我们一般采取正则化来避免过拟合。但除了正则化之外，我们也可以采取降维的方式来解决这个问题。下面是解决过拟合的方式。



为什么降维可以解决过拟合的问题？

在我们通常收集的数据中，有很多特征是可以由其他特征推测出来，或者两个特征其实是描述的同一件事情。比如，...]]></description><category></category></item><item><title><![CDATA[K均值算法【K-means】]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/89422891</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/89422891</guid><author>deramer1</author><pubDate>Sun, 21 Apr 2019 08:53:02 +0800</pubDate><description><![CDATA[一、K-Means算法流程

K均值算法是学习无监督学习的第一个算法，这个算法理解和实现都比较简单，算法的目的是将数据分成K组。

为了达到这个目的，算法首先随机初始化k个数据点（聚类中心），然后遍历所有数据，计算出每一个数据到k个点的距离，找到最小的距离，则该点属于这个类。之后计算每一组中的平均值，然后更新聚类中心，直到中心点不再发生变化。

下面是算法的运行过程：


输入：没有标签的数据X，...]]></description><category></category></item><item><title><![CDATA[贝叶斯线性回归]]></title><link>https://blog.youkuaiyun.com/deramer1/article/details/88884133</link><guid>https://blog.youkuaiyun.com/deramer1/article/details/88884133</guid><author>deramer1</author><pubDate>Fri, 29 Mar 2019 10:36:21 +0800</pubDate><description><![CDATA[一、贝叶斯线性回归框架



二、贝叶斯线性回归详细介绍

首先介绍Inference，求出后验概率。





下面是推断的部分：给定X，求出Y



万分感谢下面的参考资料，这个系列真的帮我理解了很多算法，建议大家看看。

参考资料：机器学习-白板推导系列-贝叶斯线性回归
...]]></description><category></category></item></channel></rss>