MATLAB实现正态分布ML（极大似然）估计

极大似然估计详解

下面用MATLAB实现正态分布的ML估计

% 二维正态分布的两分类问题  （ML估计）

clc;
clear;

% 两个类别数据的均值向量
Mu = [0 0; 3 3]';
% 协方差矩阵
S1 = 0.8 * eye(2);
S(:, :, 1) = S1;
S(:, :, 2) = S1;
% 先验概率（类别分布）
P = [1/3 2/3]';
% 样本数据规模
% 收敛性：无偏或者渐进无偏，当样本数目增加时，收敛性质会更好
N = 500;


% 1.生成训练和测试数据
%{
    生成训练样本
    N = 500,  c = 2, d = 2
    μ1=[0, 0]'   μ2=[3, 3]'
    S1=S2=[0.8, 0; 0.8, 0]
    p(w1)=1/3   p(w2)=2/3
%}
randn('seed', 0);
[X_train, Y_train] = generate_gauss_classes(Mu, S, P, N);

figure();
hold on;
class1_data = X_train(:, Y_train==1);
class2_data = X_train(:, Y_train==2);
plot(class1_data(1, :), class1_data(2, :), 'r.');
plot(class2_data(1, :), class2_data(2, :), 'g.');
grid on;
titl