统计学习方法读书笔记第三章:k近邻法

本文深入探讨了k近邻法的基本原理,包括其输入、输出、实现方式以及关键要素,如距离度量、k值选择和分类决策规则。同时,详细介绍了k近邻法的模型构建,以及如何通过kd树实现高效的k近邻搜索。

统计学习方法读书笔记第三章:k近邻法

k近邻法

k k k近邻法是一种基本分类与回归方法。 k k k近邻的输入为实例的特征向量,对应于特征空间的点;输出为实例的类别,可以取多类。 k k k近邻法假设给定一个训练数据集,其中的实例类别已定。分类时,对新的实例,根据其 k k k个最近邻的训练实例的类别,通过多数表决等方式进行预测。因此, k k k近邻法不具有显式的学习过程。 k k k近邻法实际上利用训练集对特征向量空间进行划分,并作为其分类“模型”。 k k k值得选择,距离度量及分类决策规则是 k k k近邻法的三个基本要素。

k紧邻算法

  • 输入:训练数据集
    T = { ( x 1 , y 1 ) , ( x 2 , y 2 ) , . . . , ( x N , y N ) } T = \{(x_1,y_1),(x_2,y_2),...,(x_N,y_N)\} T={(x1,y1),(x2,y2),...,(xN,yN)}
    其中, x i ∈ X ⊆ R n x_i\in \mathcal{X}\subseteq \bold{R}^n xiXRn为实例的特征向量, y i ∈ Y = { c 1 , c 2 , . . . , c K } y_i\in \mathcal{Y}=\{c_1,c_2,...,c_K\} yiY={c1,c2,...,cK}为实例的类别, i = 1 , 2 , . . . , N i=1,2,...,N i=1,2,...,N;实例特征向量 x x x;
  • 输出:实例 x x x所属的类 y y y
  • (1) 根据给定的距离度量,在训练集 T T T中找出与 x x x最邻近的 k k k个点,涵盖这 k k k个点的 x x x的淋浴记作 N k ( x ) N_k(x) Nk(x)
  • (2) 在 N k ( x ) N_k(x) Nk(x)中根据分类决策规则(如多数表决)决定 x x x的类别 y y y
    y = a r g m a x c j ∑ x i ∈ N k ( x ) I ( y i = c j ) , i = 1 , 2 , . . . , N ; j = 1 , 2 , . . . , K y = argmax_{c_j}\sum_{x_i\in N_k(x)}I(y_i=c_j), i=1,2,...,N; j=1,2,...,K y=argmaxcjxiNk(x)I(yi=cj),i=1,2,...,N;j=1,2,...,K
    其中 I I I为指标函数,即当 y i = c j y_i=c_j yi=cj I I I为1,否则 I I I为0。

k近邻模型

  • k k k近邻法使用的模型实际上对应于对特征空间的划分。模型由三个基本要素—距离度量、 k k k值得选择和分类决策规则决定。
  • 模型
    特征空间中,对每个训练实例点 x i x_i xi,距离该店比吉他点更近的所有点组成一个区域,叫作单元。每个训练实例点拥有一个单元,所有训练实例点的单元构成对特征空间的一个划分。最近邻法将实例 x i x_i xi的类 y i y_i yi作为其单元中所有点的类标记。这样,每个单元的实例点的类别是确定的。
    在这里插入图片描述
  • 距离度量
    特征空间中两个实例点的距离是两个实例点相似程度的反映。由不同的距离度量所确定的最近邻点是不同的。
  • k值得选择
    k k k值得选择会对 k k k近邻法的结果产生重大影响。
  • 分类决策规则
    k k k近邻法中的分类决策规则往往是多数表决,即由输入实例的 k k k个近邻的训练实例中的多数类决定输入实例的类。

k近邻法的实现:kd树

  • 实现 k k k近邻法时,主要考虑的问题是如何对训练数据进行快速 k k k近邻搜索。这点在特征空间的维数大及训练数据容量大时尤其必要。为了提高 k k k近邻搜索的效率,可以考虑使用特殊的结构存储训练数据,以减少计算距离的次数。
  • 构造kd树
    kd树是一种对 k k k维空间中的实例点进行存储以便对其进行快速检索的树形结构。kd树是二叉树,表示对 k k k维空间的一个划分。构造kd树相当于不断地用垂直于坐标轴的超平面将 k k k维空间切分,构成一系列的 k k k维超矩形趋于。kd树的每个结点对应于一个 k k k维超矩形趋于
    构造平衡kd树
    输入: k k k维空间数据集 T = { x 1 , x 2 , . . . , x N } T=\{x_1,x_2,...,x_N\} T={x1,x2,...,xN},其中 x i = ( x i ( 1 ) , x i ( 2 ) , . . . , x i ( k ) ) T , i = 1 , 2 , . . . , N x_i=(x_i^{(1)},x_i^{(2)},...,x_i^{(k)})^T,i=1,2,...,N xi=(xi(1),xi(2),...,xi(k))T,i=1,2,...,N
    输出:kd树。
    (1) 开始:构造根结点,根节点对应于包含 T T T k k k维空间的超矩形趋于。选择 x ( 1 ) x^{(1)} x(1)为坐标轴,以 T T T中所有实例的 x ( 1 ) x_{(1)} x(1)坐标的中位数为切分点,将根结点对应的超矩形区域切分为两个子区域。切分由通过切分点并与坐标轴 x ( 1 ) x^{(1)} x(1)垂直的超平面实现。由根结点生成深度为1的左、右子节点:左子结点对应坐标 x ( 1 ) x^{(1)} x(1)小于切分点的子区域,右子结点对应于坐标 x ( 1 ) x^{(1)} x(1)大于切分点的子区域。将落在切分超平面上的实例点保存在根结点。
    (2) 重复:对深度为 j j j的结点,选择 x ( l ) x^{(l)} x(l)为切分的坐标轴, l = j ( m o d k ) + 1 l=j(modk)+1 l=j(modk)+1,以该结点的区域中所有实例的 x ( l ) x^{(l)} x(l)坐标的中位数为切分点,将该结点对应的超矩形区域切分为两个子区域。切分由通过切分点并与坐标轴 x ( l ) x^{(l)} x(l)垂直的超平面实现。由该结点生成深度为 j + 1 j+1 j+1的左、右结点:左子结点对应坐标 x ( l ) x^{(l)} x(l)小于切分点的子区域,右自己点对应坐标 x ( l ) x^{(l)} x(l)大于切分点的子区域。将落在切分超平面上的实例点保存在该结点。
    (3) 直到两个子区域没有实例存在时停止。从而形成kd树的区域划分。
  • 搜索kd树
    利用kd树可以省去大部分数据点的搜索,从而减少搜索的计算量。
    用kd树的最近邻搜索
    输入:已构造的kd树;目标点 x x x
    输出: x x x的最近邻。
    (1) 在kd树中找出包含目标点 x x x的叶结点:从根结点出发,递归地向下访问kd树。若目标点 x x x当前维的坐标小于切分点的坐标,则移动到左子结点,否则移动到右子结点。直到子结点为叶结点为止。
    (2) 以此叶结点为“当前最近点”。
    (3) 递归地向上回退,在每个结点进行以下操作:
    (a) 如果该结点保存的实例点比当前最近点距离目标点更近,则以该实例点为“当前最近点”。
    (b) 当前最近点一定存在于该结点一个子结点对应的区域。检查该子结点的父结点的另一子结点对应的区域是否有更近的点。具体的,检查另一子结点对应的区域是否与以目标为球心、以目标点与“当前最近点”间的距离为半径的超球体相交。如果相交,可能在另一个子结点对应的区域内存在距离目标点更近的点,移动到另一个子结点。接着,递归地进行最近邻搜索;如果不想交,向上回退。
    (4) 当回退到根结点时,搜索结束。最后的“当前最近点”即为 x ( l ) x^{(l)} x(l)的最近邻点。
    如果实例点是随机分布的,kd树搜索的平均计算发咋读是 O ( l o g N ) O(logN) O(logN),这里 n n n是训练实例数。kd树更适用于训练实例数远大于空间维数时的 k k k近邻搜索。当空间维数接近训练实例数时,它的效率会迅速下降,几乎接近线性扫描。
标题SpringBoot智能在线预约挂号系统研究AI更换标题第1章引言介绍智能在线预约挂号系统的研究背景、意义、国内外研究现状及论文创新点。1.1研究背景与意义阐述智能在线预约挂号系统对提升医疗服务效率的重要性。1.2国内外研究现状分析国内外智能在线预约挂号系统的研究与应用情况。1.3研究方法及创新点概述本文采用的技术路线、研究方法及主要创新点。第2章相关理论总结智能在线预约挂号系统相关理论,包括系统架构、开发技术等。2.1系统架构设计理论介绍系统架构设计的基本原则和常用方法。2.2SpringBoot开发框架理论阐述SpringBoot框架的特点、优势及其在系统开发中的应用。2.3数据库设计与管理理论介绍数据库设计原则、数据模型及数据库管理系统。2.4网络安全与数据保护理论讨论网络安全威胁、数据保护技术及其在系统中的应用。第3章SpringBoot智能在线预约挂号系统设计详细介绍系统的设计方案,包括功能模块划分、数据库设计等。3.1系统功能模块设计划分系统功能模块,如用户管理、挂号管理、医生排班等。3.2数据库设计与实现设计数据库表结构,确定字段类型、主键及外键关系。3.3用户界面设计设计用户友好的界面,提升用户体验。3.4系统安全设计阐述系统安全策略,包括用户认证、数据加密等。第4章系统实现与测试介绍系统的实现过程,包括编码、测试及优化等。4.1系统编码实现采用SpringBoot框架进行系统编码实现。4.2系统测试方法介绍系统测试的方法、步骤及测试用例设计。4.3系统性能测试与分析对系统进行性能测试,分析测试结果并提出优化建议。4.4系统优化与改进根据测试结果对系统进行优化和改进,提升系统性能。第5章研究结果呈现系统实现后的效果,包括功能实现、性能提升等。5.1系统功能实现效果展示系统各功能模块的实现效果,如挂号成功界面等。5.2系统性能提升效果对比优化前后的系统性能
在金融行业中,对信用风险的判断是核心环节之一,其结果对机构的信贷政策和风险控制策略有直接影响。本文将围绕如何借助机器学习方法,尤其是Sklearn工具包,建立用于判断信用状况的预测系统。文中将涵盖逻辑回归、支持向量机等常见方法,并通过实际操作流程进行说明。 一、机器学习基本概念 机器学习属于人工智能的子领域,其基本理念是通过数据自动学习规律,而非依赖人工设定规则。在信贷分析中,该技术可用于挖掘历史数据中的潜在规律,进而对未来的信用表现进行预测。 二、Sklearn工具包概述 Sklearn(Scikit-learn)是Python语言中广泛使用的机器学习模块,提供多种数据处理和建模功能。它简化了数据清洗、特征提取、模型构建、验证与优化等流程,是数据科学项目中的常用工具。 三、逻辑回归模型 逻辑回归是一种常用于分类任务的线性模型,特别适用于二类问题。在信用评估中,该模型可用于判断借款人是否可能违约。其通过逻辑函数将输出映射为0到1之间的概率值,从而表示违约的可能性。 四、支持向量机模型 支持向量机是一种用于监督学习的算法,适用于数据维度高、样本量小的情况。在信用分析中,该方法能够通过寻找最佳分割面,区分违约与非违约客户。通过选用不同核函数,可应对复杂的非线性关系,提升预测精度。 五、数据预处理步骤 在建模前,需对原始数据进行清理与转换,包括处理缺失值、识别异常点、标准化数值、筛选有效特征等。对于信用评分,常见的输入变量包括收入水平、负债比例、信用历史记录、职业稳定性等。预处理有助于减少噪声干扰,增强模型的适应性。 六、模型构建与验证 借助Sklearn,可以将数据集划分为训练集和测试集,并通过交叉验证调整参数以提升模型性能。常用评估指标包括准确率、召回率、F1值以及AUC-ROC曲线。在处理不平衡数据时,更应关注模型的召回率与特异性。 七、集成学习方法 为提升模型预测能力,可采用集成策略,如结合多个模型的预测结果。这有助于降低单一模型的偏差与方差,增强整体预测的稳定性与准确性。 综上,基于机器学习的信用评估系统可通过Sklearn中的多种算法,结合合理的数据处理与模型优化,实现对借款人信用状况的精准判断。在实际应用中,需持续调整模型以适应市场变化,保障预测结果的长期有效性。 资源来源于网络分享,仅用于学习交流使用,请勿用于商业,如有侵权请联系我删除!
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值