机器学习 KD树生成(matlab实现)

关注

原创 2022-03-27 16:16:01 2.9k 阅读 AI 写同款· GEO 优化 ›

KD树在计算机科学和机器学习领域中有着广泛的应用，它可以用于解决各种问题，如最近邻搜索、范围查询和聚类等。本文将介绍KD树的基本概念及其在Matlab中的应用。 KD树是一种二叉树结构，它可以对k维数据进行快速的查找和排序。分割的方法是通过选择一个轴来实现的，通常选择方差最大的轴作为分割轴。例如，在二维空间中，如果有很多点的x轴方差比y轴方差大，则选择x轴作为分割轴。在Matlab中，我们可以轻松地实现KD树的构建和最近邻搜索。除了最近邻搜索，KD树还可以应用于范围查询和聚类等问题。因此，掌握KD树的原理和应用是非常有价值的。KD树在计算机科学和机器学习领域中有着广泛的应用，它可以用于解决各种问题，如最近邻搜索、范围查询和聚类等。% 计算节点和目标点的距离。阅读详情

一、思路

%二叉树数据结构在c语言中容易表示,可在matlab中却不那么容易
%但是c语言需要自己造轮子(sortrows()用c得写死我), matlab有现成的, 所以思考一下如何在matlab中表示二叉树呢
%参考大堆小堆利用数组表示二叉树, 从而避开指针构建kdtree(哇噢, 感觉自己就是个小机灵鬼诶)
%给每个节点添加下标以实现父子访问
%提示:节点下标为i, 左孩子下标为2i,左孩子下标为2i+1
%因为kdtree不是完全二叉树, 所以需要增加状态信息栏表示某节点是否为空
%好了, 开整吧

二、效果

三、代码

1、mian

%% 数据导入
Dataset=csvread("iris_dataset.csv");
rows=150;
columns=5;

%% 数据分割
Train_set=Dataset(1:120,:);
Test_set=Dataset(121:150,:);

%% kd树生成
%1:columns列为属性和类别, columns+1列节点存活状态
global Kd_Tree;
Kd_Tree_Create(Train_set);

2、Kd_Tree_Create

function [] = Kd_Tree_Create(Dataset)
%Dataset共有rows行数据,1:columns-1列为属性,columns列为类别
size_Dataset=size(Dataset);
recursive(Dataset,1,1,size_Dataset(1),size_Dataset(2)-1);
end

3、recursive

function [] = recursive(Dataset,pos,x_i,rows,columns)
disp("kd树深度:"+x_i);
%Dataset:需要二分的数据集
%rows:需分类的个体数
%columns:用于分类的属性数
%pos:Kd_Tree插入位置
%x_i:排序依据
global Kd_Tree;
if(rows>1)
    %排序
    Dataset=sortrows(Dataset,mod(x_i-1,columns)+1);
    %二分
    Divi_Index=fix(rows/2)+1;%加1去掉也不影响
    Kd_Tree(pos,1:columns+1)=Dataset(Divi_Index+1,:);
    Kd_Tree(pos,columns+2)=1;
    %递归
    recursive(Dataset(1:Divi_Index,:),2*pos,x_i+1,Divi_Index,columns);
    recursive(Dataset(Divi_Index+2:rows,:),2*pos+1,x_i+1,rows-Divi_Index-1,columns);
else
    if(rows==1)
        Kd_Tree(pos,1:columns+1)=Dataset;
        Kd_Tree(pos,columns+2)=1;
    else
        Kd_Tree(pos,columns+2)=0;
    end
end

end