30、机器学习中的模型构建与分析

机器学习中的模型构建与分析

1. 实验项目：二元分类问题

1.1 项目概述

本次项目旨在使用多元高斯模型解决一个简单的二元分类问题（类别 A 与类别 B）。假设两个类别具有相等的先验概率，每个观测特征是一个三维向量。可以从 http://www.eecs.yorku.ca/~hj/MLF - gaussian - dataset.zip 下载数据集。

1.2 数据集格式

数据集以 CSV 格式提供，训练样本在 train - gaussian.csv 文件中，测试样本在 test - gaussian.csv 文件中。每行的格式为 y, x1, x2, x3 ，其中 y ∈ {A, B} 是类别标签， [x1 x2 x3] 是三维特征向量。

1.3 构建分类器的方法

1.3.1 多元高斯模型分类器

使用多元高斯模型构建简单分类器，每个类别由一个三维高斯分布建模。考虑以下协方差矩阵结构：
- 每个高斯使用单独的对角协方差矩阵。
- 每个高斯使用单独的全协方差矩阵。
- 两个高斯共享一个共同的对角协方差矩阵。
- 两个高斯共享一个共同的全协方差矩阵。

操作步骤：
1. 使用提供的训练