sdu_hao的博客

1. 用极大似然估计法推出朴素贝叶斯法中的概率估计公式：2. 用贝叶斯估计法推出朴素贝叶斯法中的概率估计公式：3. 贝叶斯估计求解过程4.自编程实现朴素贝叶斯算法，对上述表格中的训练数据进行分类。"""朴素贝叶斯算法的实现2019/4/12"""import numpy as npimport pandas...

目录1. 导读2. 朴素贝叶斯法的学习与分类3. 朴素贝叶斯法的参数估计4. 朴素贝叶斯法的参数估计推导5. 小结1. 导读朴素贝叶斯(naive Bayes)法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练集，首先基于特征条件独立假设学习输入输出的联合概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出y。统计学习方法...

1. 参照图3.1，在2维空间中给出实例点，画出k为1和2时的k近邻法构成的空间划分（决策区域），并对其进行比较，体会k值选择与模型复杂度及预测准确率的关系。import numpy as npfrom sklearn.neighbors import KNeighborsClassifierimport matplotlib.pyplot as pltfrom matplotl...

k近邻(k-nearest neighbor,k-NN)是一种基本分类与回归方法，本博客只谈论分类问题中的k近邻法。k近邻法的输入是实例的特征向量，对应特征空间中的点，输出为实例的类别，可以取多类。k近邻法假定给定一个训练数据集，其中的实例类别已确定。分类时，对于新的实例，根据其k个最近邻的训练实例的类别，通过多数表决等方式进行预测（即，k个最近邻训练实例中哪个类别的实例最多，就把新实例预...

1. Minsky与Papert指出：感知机是线性模型，所以不能表示复杂的函数，如异或(XOR).验证感知机为什么不能表示异或。首先写出异或函数对应的输入输出： y 1 1 -1 1 -1 +1 -1 1 +1 -1 -1 -1 我们可以可视化上述实例及其标签：import numpy as np...

感知机是2分类线性分类模型，输入是样本/实例的特征向量，输出为其类别{+1,-1}.感知机对应于将输入空间/特征空间中的实例划分为正负两类的分离超平面，属于判别模型。感知机学习基于误分类损失函数，利用梯度下降法对其极小化，更新参数，求得感知机模型(对应一组最优的参数)。感知机学习算法PLA简单且易于实现，分为原始形式和对偶形式。感知机预测是使用学习得到的感知机模型对新的输入实例进行分类...