yao09605的博客

naive bayes朴素贝叶斯算法想法非常简单，根据贝叶斯公式，通过先验概率计算后验概率，原理不多赘述，网上可以查到很多。这里值得一提的是根据The Optimality of Naive BayesHarry ZhangFaculty of Computer Science University of New Brunswick Fredericton, New Brunswick...

MATLAB神经网络笔记keywords： 单层感知器 误差曲面图 BP神经网络拟合曲线设计一个单层感知器网络，对给定样本输入向量P = (−0.5−0.20.10.2; 0.70.60.40.8)、 目标向量T = (1 1 0 0)以及需要进行分类的输入向量组P = (−0.70.3−0.60.1; 0.50.4−0.30.6)进 行分类。P=[-0.5 -0.2 0.1 0.2...

by 狐狐的鹿鹿RBF理解：RBF网络为径向基网络。基本结构：一般为两层网络，n-N-m结构。其中n为预测变量X的特征数，m为响应变量Y的特征数。即X是一个n维向量，Y是一个m维向量。如果把一个向量看作一个节点，实际上就是1-N-1。N是中心点的个数，可以从训练集中分布均匀的选取一些X作为中心点。隐层到输出则使用权值连接。基本思想：RBF网络可以逼近任意曲线或曲面或超曲面。方法是认为任...

转载https://www.cnblogs.com/zhaohongtian/p/6802333.html

转载

很喜欢大神的文风：https://blog.youkuaiyun.com/b285795298?t=1https://blog.youkuaiyun.com/b285795298/article/details/81977271

考虑一个线性回归模型：y=Xβ+εy=X\beta+\varepsilony=Xβ+ε 其中ε\varepsilonε为模型的残差。在不带约束的线性回归模型中，我们使用最小二乘法，希望残差平方和最低。即min(∑[(y−Xβ)]2)min(\sum[(y-X\beta)]^2)min(∑[(y−Xβ)]2)在此基础上加上一组线性约束：写成矩阵形式：Rβ=qR\beta=qRβ=q带约束...

逻辑回归是解决分类问题。样本的输入X是标量矩阵，而输出y是标记，只有固定几个值。举个例子，给你一系列参数，病人的年龄，身高，体重，肿瘤数量，肿瘤大小，一些血液参数等，判断病人得的是恶心肿瘤（1）还是良性肿瘤（0）。从标量寻找一个模型映射到标记变量是困难的。于是转变思路，把这个病人是否得恶性肿瘤转为这个病人有多少概率得恶性肿瘤，这个概率在0-1之间，是一个连续的变量，我们可以规定概率超过某个阀值...

首先盗个图from：https://blog.youkuaiyun.com/bravery_again/article/details/81104914决策树是一种解决分类问题的机器学习算法。他模拟了人思考的过程，当一件事情由很多因素构成的时候，先选择影响性最大的因素进行判断（比如白富美白最重要，其次是富，最后是美）类似的决策树要做的事情就是选出区分度最高的特征，并对样本进行区分，然后在已经分成几类的样本递...

了解随机森林之前，请先简单了解一下决策树，传送门https://blog.youkuaiyun.com/yao09605/article/details/93741998传送门回来之后可以发现决策树有决策树的问题，容易不符合现实，或者过拟合。在样本数量较小的情况下，容易因为训练集产生偏差。举个