bblingbbling的博客

文章推荐：链接: 零基础学SVM—Support Vector Machine(一)链接: 零基础学SVM—Support Vector Machine(二)链接: SVM详细讲解

PCA主成分分析概述计算过程求解协方差矩阵的特征值和特征向量PCA与SVD的联系概述主成分分析（Principal Component Analysis, PCA），是一种使用最广泛的数据降维算法。PCA的主要思想是将n维特征映射到k维上，这k维是全新的正交特征也被称为主成分，是在原有n维特征的基础上重新构造出来的k维特征。其目的是找到k个坐标轴使得数据集在新的坐标轴下的方差最大。计算过程1.样本矩阵进行均值化；2.计算协方差矩阵；3.通过特征值分解或SVD分解计算协方差矩阵的特征值与特征向量

SVD奇异值分解概述定义求解过程图像压缩案例概述SVD应用：1.用于数据降维、压缩和去噪；2.用于PCA降维；3.推荐系统、自然语言处理等。SVD诞生：Ax=λx，对A进行特征值分解A=WΣWT要求A必须为方阵、实对称矩阵（即A=AT），如果A不是方阵，SVD可以对矩阵A进行分解。定义求解过程图像压缩案例import numpy as npimport cv2import matplotlib.pyplot as pltpath = 'lena.jpg'data = cv

最大似然估计、贝叶斯估计和最大后验估计参数估计最大似然估计概述前提假设核心思想推导过程求解过程最大后验估计概述前提假设核心思想推导过程贝叶斯估计最大似然估计和最大后验估计的对比参数估计参数估计是根据从总体中采样来估计总体分布中包含的未知参数的方法。参数估计包括点估计和区间估计。点估计方法：矩估计、最小二乘估计、极大似然估计、贝叶斯估计；区间估计：利用已知的抽样分布、利用区间估计与假设检验的联系、利用大样本理论。关系：区间估计 = 点估计 ± 边际误差最大似然估计概述最大似然估计MLE：ma

朴素贝叶斯算法简介计算步骤参数估计极大似然估计贝叶斯估计算法特点简介朴素贝叶斯是一种基于概率论的分类算法，基于贝叶斯定理和特征条件独立假设，它是一种生成模型。首先学习特征x和标记y的联合概率分布P(x,y)，即共同出现的概率，然后基于此模型，对给定的输入x，求出后验概率最大的输出y，即求条件概率分布 P(y|x)。计算步骤1.训练数据集 T = {(x1,y1), (x2,y2),…,(xN,yN)}；2.计算先验概率分布 P (Y = ck)，k = 1,2,…,K；3.计算条件概率分布 P