《统计学习方法》(第二章)—— 感知机

《李航统计学习方法》第二章:感知机学习算法 - 算法代码 1. 感知机学习算法的原始形式 # -*- coding: utf-8 -*- ''' 《李航统计学习方法》 算法2.1(感知机学习算法的原始形式) e.g.2.2 ''' def Perceptron_Study_basic(x_list, y_list): w = [0, 0] b = 0 rate = 1 # 学习率 item = 0 # 迭代次数 ... 阅读详情

感知机模型

  • 定义:假设输入空间(特征空间)是χ⊆Rn\chi \subseteq R^nχ⊆Rn,输出空间是γ={+1,−1}\gamma=\{+1,-1\}γ={+1,−1}.输入x∈χx \in\chix∈χ表示实例的特征向量,对应于输入空间(特征空间)的点;输出y ∈γ\in \gamma∈γ表示实例的类别。由输入空间到输出空间的函数如下:
    f(x)=sign(w⋅x+b)f(x)=sign(w\cdot{x}+b)f(x)=sign(w⋅x+b) 称为感知机模型,其中w,bw,bw,b为感知机的参数,w∈Rnw \in R^nw∈Rn 叫作权值或者权值向量,b∈Rb \in Rb∈R叫做偏值, w⋅xw\cdot{x}w⋅x表示w,bw,bw,b的内积.signsignsign是符号函数,即
    sign(x)={+1x≥0−1x<0sign(x)=\begin{cases} +1 &x\ge0\\ -1 & x < 0\\ \end{cases}sign(x)={+1−1​x≥0x<0​

感知机模型学习策略

  • 如果(xi,yi)(x_i,y_i)(xi​,yi​)是正分类点,则yi∗(w⋅xi+b)>0y_i*(w\cdot{x_i}+b)>0yi​∗(w⋅xi​+b)>0,如果(xi,yi)(x_i,y_i)(xi​,yi​)是误分类点,则yi∗(w⋅xi+b)≤0y_i*(w\cdot{x_i}+b)\le0yi​∗(w⋅xi​+b)≤0
    定义:L(w,b)=−∑xi∈Myi∗(w⋅xi+b)L(w,b)=-\sum\limits_{x_i \in M} y_i*(w\cdot{x_i}+b)L(w,b)=−xi​∈M∑​yi​∗(w⋅xi​+b),其中MMM是误分类点集合,即误分类点到超平面的距离

感知机学习算法

  • 这里我们采用梯度下降法
    ∇wL(w.b)=−∑xi∈Myi∗xi\nabla_wL(w.b)=-\sum\limits_{x_i \in M}y_i*x_i∇w​L(w.b)=−xi​∈M∑​yi​∗xi​
    ∇bL(w.b)=−∑xi∈Myi\nabla_bL(w.b)=-\sum\limits_{x_i \in M}y_i∇b​L(w.b)=−xi​∈M∑​yi​
    w=w+η∗yi∗xiw=w+\eta*y_i*x_iw=w+η∗yi​∗xi​
    b=b+η∗yib=b+\eta*y_ib=b+η∗yi​,其中η\etaη为学习率
  • 算法:
    (1) 输入:训练数据集合T={(x1,y1),(x2,y2)...(xN,yN)}T=\{(x_1,y_1),(x_2,y_2)...(x_N,y_N)\}T={(x1​,y1​),(x2​,y2​)...(xN​,yN​)},其中xi∈χ=Rn,yi∈γ={−1,+1},x_i \in \chi=R^n,y_i \in\gamma=\{-1,+1\},xi​∈χ=Rn,yi​∈γ={−1,+1},
    i=1,2...N;i=1,2...N;i=1,2...N;学习率为η(0<η≤1)\eta(0<\eta\le1)η(0<η≤1),输出:w,b;f(x)=sign(w⋅x+b)w,b;f(x)=sign(w\cdot{x}+b)w,b;f(x)=sign(w⋅x+b)
    (2)在训练集中选取数据(xi,yi)(x_i,y_i)(xi​,yi​)
    (3)如果yi∗(w⋅xi+b)≤0y_i*(w\cdot{x_i}+b)\le0yi​∗(w⋅xi​+b)≤0
         w=w+η∗yi∗xiw=w+\eta*y_i*x_iw=w+η∗yi​∗xi​
         b=b+η∗yib=b+\eta*y_ib=b+η∗yi​
    (4)转至(2),直到算法结束没有误分类点
  • 算法的收敛性证明:
      训练数据集合T={(x1,y1),(x2,y2)...(xN,yN)}T=\{(x_1,y_1),(x_2,y_2)...(x_N,y_N)\}T={(x1​,y1​),(x2​,y2​)...(xN​,yN​)},为线性可分,其中xi∈χ=Rn,yi∈γ={−1,+1},i=1,2...N;x_i \in \chi=R^n,y_i \in\gamma=\{-1,+1\},i=1,2...N;xi​∈χ=Rn,yi​∈γ={−1,+1},i=1,2...N;则
      存在满足条件∥w^opt∥=1\lVert{\hat{w}_{opt}\rVert}=1∥w^opt​∥=1的超平面w^opt⋅x^+bopt=0\hat{w}_{opt}\cdot{\hat{x}}+b_{opt}=0w^opt​⋅x^+bopt​=0将训练数据集完全正确分开;且存在γ>0\gamma>0γ>0.对所有
      i=1,2,..Ni=1,2,..Ni=1,2,..N
      yi∗(w^opt⋅x^)=yi∗(wopt⋅x+bopt)≥γy_i*(\hat{w}_{opt}\cdot{\hat{x}})=y_i*(w_{opt}\cdot{x}+b_{opt})\ge\gammayi​∗(w^opt​⋅x^)=yi​∗(wopt​⋅x+bopt​)≥γ
      令R=max∥x^opt∥R=max\lVert{\hat{x}_{opt}\rVert}R=max∥x^opt​∥,则感知机算法,在训练集上的误分类次数kkk满足
      k≤(Rγ)2k \le(\frac{R}{\gamma})^2k≤(γR​)2
    • 证明:
      (1)
        取w^opt\hat{w}_{opt}w^opt​,则w^opt∗x=wopt⋅x+bopt=0\hat{w}_{opt}*x=w_{opt}\cdot{x}+b_{opt}=0w^opt​∗x=wopt​⋅x+bopt​=0,使∥wopt∥=1\lVert{w_{opt}}\rVert=1∥wopt​∥=1,由于对有限的i=1,2,....Ni=1,2,....Ni=1,2,....N,均有
          yi∗(w^opt⋅xi^)=yi∗(wopt⋅xi+bopt)>0y_{i}*(\hat{w}_{opt}\cdot{\hat{x_i}})=y_{i}*(w_{opt}\cdot{x_i}+b_{opt})>0yi​∗(w^opt​⋅xi​^​)=yi​∗(wopt​⋅xi​+bopt​)>0
          所以存在γ=mini{yi∗(wopt⋅xi+bopt)}\gamma=min_i\{y_i*(w_{opt}\cdot{x_i}+b_{opt})\}γ=mini​{yi​∗(wopt​⋅xi​+bopt​)}
          yi∗(w^opt⋅xi^)=yi∗(wopt⋅xi+bopt)≥γy_{i}*(\hat{w}_{opt}\cdot{\hat{x_i}})=y_{i}*(w_{opt}\cdot{x_i}+b_{opt})\ge\gammayi​∗(w^opt​⋅xi​^​)=yi​∗(wopt​⋅xi​+bopt​)≥γ
      (2)因为感知机是从w0^=0\hat{w_0}=0w0​^​=0开始,如果被误分类,则跟新权重。令w^k−1\hat{w}_{k-1}w^k−1​是第k个误分类的扩充向量,
          w^k−1=(wk−1T,bk−1)T\hat{w}_{k-1}=(w_{k-1}^T,b_{k-1})^Tw^k−1​=(wk−1T​,bk−1​)T
          则第k个误分类实例条件是yi∗(w^k−1⋅xi+bk−1)≤0y_i*(\hat{w}_{k-1}\cdot{x_i}+b_{k-1})\le0yi​∗(w^k−1​⋅xi​+bk−1​)≤0
          证明两个不等式:
          1).w^k⋅w^opt≥k∗η∗γ\hat{w}_{k}\cdot{\hat{w}_{opt}}\ge k*\eta*\gammaw^k​⋅w^opt​≥k∗η∗γ
          w^k⋅w^opt=w^k−1⋅w^opt+η∗yi⋅x^i≥w^k−1⋅w^opt+η∗γ\hat{w}_{k}\cdot{\hat{w}_{opt}}=\hat{w}_{k-1}\cdot{\hat{w}_{opt}}+\eta*{y_i}\cdot{\hat{x}_{i}}\ge\hat{w}_{k-1}\cdot{\hat{w}_{opt}}+\eta*\gammaw^k​⋅w^opt​=w^k−1​⋅w^opt​+η∗yi​⋅x^i​≥w^k−1​⋅w^opt​+η∗γ.我们不断的递推
          w^k⋅w^opt≥w^k−1⋅w^opt+η∗γ≥w^k−2⋅w^opt+2∗η∗γ≥....≥k∗ηγ\hat{w}_{k}\cdot{\hat{w}_{opt}}\ge\hat{w}_{k-1}\cdot{\hat{w}_{opt}}+\eta*\gamma\ge\hat{w}_{k-2}\cdot{\hat{w}_{opt}}+2*\eta*\gamma\ge....\ge k*\eta\gammaw^k​⋅w^opt​≥w^k−1​⋅w^opt​+η∗γ≥w^k−2​⋅w^opt​+2∗η∗γ≥....≥k∗ηγ
          2)∥wk∥\lVert{w_{k}}\rVert∥wk​∥2≤k∗η2∗R2^2\le k*\eta^2*R^22≤k∗η2∗R2
          ∥wk∥2\lVert{w_{k}}\rVert^2∥wk​∥2=∥wk−1∥2+2∗η∗yi∗w^k−1⋅x^i+η2∗∥x^i∥≤∥wk−1∥2=\lVert{w_{k-1}}\rVert^2+2*\eta*y_i*\hat{w}_{k-1}\cdot{\hat{x}_{i}}+\eta^2*\lVert{\hat{x}_{i}}\rVert\le \lVert{w_{k-1}}\rVert^2=∥wk−1​∥2+2∗η∗yi​∗w^k−1​⋅x^i​+η2∗∥x^i​∥≤∥wk−1​∥2+η2∗∥x^i∥≤∥wk−1∥2+\eta^2*\lVert{\hat{x}_{i}}\rVert\le \lVert{w_{k-1}}\rVert^2+η2∗∥x^i​∥≤∥wk−1​∥2+η2∗R≤+\eta^2*{R}\le+η2∗R≤∥wk−2∥2\lVert{w_{k-2}}\rVert^2∥wk−2​∥2+2∗η2∗R≤....≤k∗η2∗R2+2*\eta^2*{R}\le....\le k*\eta^2*R^2+2∗η2∗R≤....≤k∗η2∗R2
          证明完毕,结合以上两个不等式
          k∗η∗γ≤w^k⋅w^opt≤∣∣w^k∣∣∗∣∣w^opt∣∣≤k∗η∗Rk*\eta*\gamma\le\hat{w}_k\cdot{\hat{w}_{opt}}\le||\hat{w}_k||*||\hat{w}_{opt}||\le\sqrt{k}*\eta*Rk∗η∗γ≤w^k​⋅w^opt​≤∣∣w^k​∣∣∗∣∣w^opt​∣∣≤k​∗η∗R
          k2γ2≤k∗R2k^2\gamma^2\le k*R^2k2γ2≤k∗R2
          k≤(Rγ)2k\le(\frac{R}{\gamma})^2k≤(γR​)2,完毕
  • 对偶形式
         w=w+η∗yi∗xiw=w+\eta*y_i*x_iw=w+η∗yi​∗xi​
         b=b+η∗yib=b+\eta*y_ib=b+η∗yi​
         w=∑i=1Nai∗yi∗xiw=\sum\limits_{i=1}^Na_{i}*y_i*x_iw=i=1∑N​ai​∗yi​∗xi​
         b=∑i=1Nai∗yib=\sum\limits_{i=1}^Na_{i}*y_ib=i=1∑N​ai​∗yi​
         其中NNN为训练数据数量,ai=ni∗η≥0a_i=n_{i}*\eta\ge0ai​=ni​∗η≥0
    • 算法:
          (1) 输入:训练数据集合T={(x1,y1),(x2,y2)...(xN,yN)}T=\{(x_1,y_1),(x_2,y_2)...(x_N,y_N)\}T={(x1​,y1​),(x2​,y2​)...(xN​,yN​)},其中xi∈χ=Rn,x_i \in \chi=R^n,xi​∈χ=Rn,
         yi∈γ={−1,+1},输出a.b.f(x)=sign(∑j=1Naj∗yj∗xj⋅x+b).a=(a1,a2,...,an)y_i \in\gamma=\{-1,+1\},输出a.b.f(x)=sign(\sum\limits_{j=1}^Na_j*y_j*x_j\cdot{x}+b).a=(a_1,a_2,...,a_n)yi​∈γ={−1,+1},输出a.b.f(x)=sign(j=1∑N​aj​∗yj​∗xj​⋅x+b).a=(a1​,a2​,...,an​)
          i=1,2...N;i=1,2...N;i=1,2...N;学习率为η(0<η≤1)\eta(0<\eta\le1)η(0<η≤1)
          (2)在训练集中选取数据(xi,yi)(x_i,y_i)(xi​,yi​)
          (3)如果sign(∑j=1Naj∗yj∗xj⋅xi+b)≤0sign(\sum\limits_{j=1}^Na_j*y_j*x_j\cdot{x_i}+b)\le0sign(j=1∑N​aj​∗yj​∗xj​⋅xi​+b)≤0
                ai=ai+ηa_i=a_i+\etaai​=ai​+η
                b=b+η∗yib=b+\eta*y_ib=b+η∗yi​
         (4)转至(2),直到算法结束没有误分类点
  • Gram矩阵:G=[xi⋅xj]N×NG=[x_i\cdot{x_j}]_{N×N}G=[xi​⋅xj​]N×N​
实现代码后续补上
李航《统计学习方法》第二章 感知机 感知机 阅读详情

相关推荐

统计学习方法第二版(第二章)感知机

感知机基础知识介绍超平面偏导数和梯度感知机模型选取模型策略梯度下降算法 基础知识介绍 超平面 偏导数和梯度 感知机模型 选取模型策略 梯度下降算法

qq_35254791的博客 869

机器学习(三)~感知机模型

机器学习(三)~感知机模型1. 感知机模型2. 感知机学习策略3. 感知机学习算法1)算法原始形式2)算法收敛性3)算法对偶形式 1. 感知机模型 感知机是一种线性分类模型,属于判别模型。 2. 感知机学习策略 适用条件: 数据集具有线性可分性 当训练集线性不可分时,感知机学习算法不收敛,迭代结果会发生震荡 假设空间: 定义在特征空间中所有线性分类器,即函数集合{f|f(x)=w·x+b} 损失函数: 损失函数的自然选择是误分类点个数,但由于这样定义的损失函数不是关于w,b的连续可导函数,不易优化,因

布拉拉巴卜拉的博客 524

【统计学习方法】学习笔记——第二章:感知机

统计学习方法:感知机感知机模型参考资料 感知机是二分类的线性分类模型,输入为实例的特征向量,输出为实例的类别(取+1和-1)。感知机对应于输入空间中将实例划分为两类的分离超平面,属于判别模型。 感知机旨在求出将训练数据进行线性划分的分离超平面,为求得超平面导入了基于误分类的损失函数,利用梯度下降法对损失函数进行最优化。 感知机算法分为原始形式和对偶形式,感知机预测是用学习得到的感知机模型对新的输入实例进行分类。 感知机模型 参考资料 https://blog.csdn.net/weixin_5481438

小哲的博客 781

Python实现感知机(Perceptron)

1.感知机回归概念 感知机(Perceptron)是二分类的线性分类模型,其输入是实例的特征向量,输出是实例的类别,取+1及-1二值。感知机是在1957年由Rosenblatt提出,今天看来它的分类模型在大多数时候泛化能力不强,但是它的原理却值得好好研究。因为研究透了感知机模型,学习支持向量机的话会降低不少难度。同时如果研究透了感知机模型,再学习神经...

weixin_30472035的博客 1819

win10任务栏文件夹设置成竖形列表样式

win10任务栏文件夹设置成竖形列表样式

ftzchina的博客 7086

峰岹FU6832L双核电机控制芯片实战:从FOC算法到BLDC/PMSM驱动开发

在嵌入式系统和电机控制领域,磁场定向控制(FOC)是实现无刷直流电机(BLDC)和永磁同步电机(PMSM)高效、平稳运行的核心算法。其原理是通过坐标变换将三相交流量分解为直流量,实现类似直流电机的转矩与磁场解耦控制,从而提升效率、降低噪音与振动。这项技术的工程价值在于能以更低的处理器开销实现高性能驱动,广泛应用于消费电子、工业自动化与智能家电。本文以峰岹FU6832L芯片为例,深入解析其独特的双核架构——将实时性要求极高的FOC运算交由专用硬件引擎处理,解放主控CPU处理应用逻辑,并结合PID参数整定、电流

weixin_29570795的博客 526

《统计学习方法》第二章——感知机及Python实现

一、概述 pass 二、感知机模型 感知机(perceptron)是二类分类的线性分类模型,其输入为特征向量x,输出为类别,取+1,-1二值。感知机将实例划分为正负两类的分离超平面,属于判别模型。感知机学习旨在求出训练数据进行线性划分的超平面,属于判别模型。为此,导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化,求得感知机模型。感知机学习算法具有简单而易于实现的优点,分为原始形式和对偶形式。同时,感知机算法是支持向量机和神经网络的基础。 2.1 感知机模型 对于感知机,由输入空间到输出空间的由如

weixin_47675950的博客 338

基于springboot生鲜食品订购系统的设计与实现

近年来互联网络的迅猛发展和电子终端设备的普及,赋予了各行业充足的发展空间。微信小程序的O2O生鲜食品订购相比于传统信息技术,时效性是它最大的特色,已经在电子娱乐、经济等中发挥着举足轻重的作用。短时间内迅速扩大了线上管理系统的规模。尽管O2O生鲜食品订购已经有了很大程度的发展,但在微信小程序的O2O生鲜食品订购领域上却少有建设。

1025

《统计学习方法》-第二章感知机-学习总结

【感知机概述】 感知机是一种二分类的线性分类模型,对于线性可分的数据集,什么叫做线性可分数据集?对于一个数据集,存在一个超平面能够将所有正负样本完全正确的划分在超平面的两侧,就称数据集为线性可分数据集。输入空间是样本的特征向量,输出空间是{-1,1},感知机旨在求出能够将训练数据进行线性划分的超平面。感知机的学习策略是最小化损失函数,利用随机梯度下降算法完成最小化损失函数,不断优化参数,最终...

transformed的博客 301

ubuntu18.04安装xenomai3.1(百分百成功版)

ubuntu18.04安装xenomai3.1(百分百成功版),保姆级教学!!!

h542812556sdu的博客 2065

在摩尔线程 MTT S80 上使用 Ollama 进行 DeepSeek R1 蒸馏版模型推理

本文主要介绍了如何在摩尔线程 MTT S80 上通过 Ollama 快速完成DeepSeek R1 蒸馏系列模型的推理。

摩尔线程blog中心 3605

统计学习方法学习笔记:第二章.感知机

感知机 概述 感知机是二元分类的线性分类模型,目的是求出一个分离超平面,利用梯度下降法对代价函数进行最小化 ; 模型 感知机的数学模型可由下列表达式给出: f(x) = sign( wx + b) ; 其中 w 为权值向量,是分离超平面 (wx + b = 0 )的法向量,b 为截距(bias),sign(x)为符号函数:x > 0,输出 +1;反之,输出 -1 策略 数据集的线性可分性 ...

weixin_44692791的博客 263

LightRAG实战:从零构建中药知识图谱,解锁六种检索模式效能对比

本文详细介绍了如何使用轻量级RAG框架LightRAG从零构建中药知识图谱的实战过程。通过本地部署环境搭建、开源模型配置与《本草纲目》数据导入,文章重点对比了Naive、Local、Global、Hybrid、Mix和Bypass六种检索模式在中药问答中的效能差异,并提供了可视化图谱与优化心得,为开发者构建专业领域智能问答系统提供了实用指南。

weixin_29096377的博客 178

《统计学习方法》——第二章 感知机

本文只要记录一些书中的一些小知识点,挑一些本人认为重要的地方进行总结。各位道友!道长(zhǎng) 道长(chǎng)今天的内容是统计学习方法的第一章节,挺容易理解的,结合模型图理解更加方便。

weixin_46034279的博客 1129

第1章:Zephyr 开发环境搭建与 Hello World

📝【摘要】本文是Zephyr RTOS开发入门指南的第一章,详细介绍了从环境搭建到首个应用运行的完整流程。主要内容包括:1️⃣ Zephyr项目结构解析与west工具链部署;2️⃣ 开发环境配置(Linux/WSL)及SDK安装;3️⃣ 两种实践路径——官方HelloWorld样例与自定义应用开发;4️⃣ 实际硬件部署方法(nRF/STM32)及常用west命令速查;5️⃣ 典型问题解决方案。通过qemu_x86模拟器演示了基础打印功能实现,为后续深度开发奠定基础。

hemoparrot的专栏 1362

《派出你的AI同事:WorkBuddy案例实战》062:投研资讯摘要与预警

投研资讯摘要与预警:新闻、公告、行情交给 AI 同事提炼与预警,投研从“刷资讯”变成“读摘要”。

LuckyHanMo的博客 187

感知机 统计学习方法第二章,numpy原始形式和对偶形式,torch实现

感知机 统计学习方法第二章,numpy原始形式和对偶形式,torch实现

liu_mumu的博客 170

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

统计学习方法第二章例题2.2代码实践,感知机的对偶形式的代码实现

针对统计学习方法第二章的第二个例题设计了代码如下: (注释部分为自己出错的部分调试代码,小白码代码略扎心) #-*- coding:utf-8 -*- import sys from numpy import * import os from compiler.ast import flatten reload(sys) sys.setdefaultencoding('utf-8') #

GrinAndBearIt的博客 1219

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

统计学习方法 第二章 感知机

原理不多描述,直接上代码 原始形式 import numpy as np def perceptron(x_arr,y_arr,eta = 1): data_mat = np.mat(x_arr) label_mat = np.mat(y_arr).T m,n = np.shape(data_mat) w = np.zeros((n,1)) b = 0 ...

Akari0216的博客 252

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

【统计学习方法】第二章 感知机

感知机模型定位:感知机属于 二分类模型/线性模型/非概率模型/判别模型 回顾:统计学习三要素:模型+策略+算法 算法原理 模型 输入空间/特征空间:X⊆RnX \subseteq R^nX⊆Rn 输出空间:y∈y \iny∈ {-1,+1} 输入到输出的映射:y=sgn(wx+b)y=sgn(wx+b)y=sgn(wx+b) 【sgn为符号函数】 假设空间:{f|f(x)=wx+b} 几何解释:wx+b=0是特征空间中的一个超平面S,w是该平面的法向量,b是截距; 前提假设:当数据集线性可分时,感知.

Superpig的博客 1698

《统计学习方法》第二章 感知机

《统计学习方法》第二章 感知机2.1感知机模型2.2 感知机学习策略2.3 感知机学习算法2.3.1 感知机学习算法的原始形式2.3.2 算法的收敛性感知机学习算法的对偶形式 2.1感知机模型 感知机(perceptron):二类分类的线性分类模型,属于判别模型。(神经网络与支持向量机的基础)。 感知机学习旨在求出将训练数据进行线性化分的分离超平面。 几何解释: 线性方程:w*x+b=0.对应...

m0_37180911的博客 271

统计学习方法第二章——感知机

2.1 感知机模型 形如f(X)=sign(w⋅x+b)f(X)=sign(w\cdot x+b)f(X)=sign(w⋅x+b)的函数称为感知机,其中w和b为感知机模型参数,w叫作权值,b叫作偏置,w⋅xw\cdot xw⋅x表示w和x的内积。sigh是符号函数,即 sign⁡(x)={+1,x⩾0−1,x<0 \operatorname{sign}(x)= \begin{cases}+1, & x \geqslant 0 \\ -1, & x<0\end{cases} sig

weixin_43869610的博客 476

统计学习方法(李航)第二章 感知机笔记

X⊆Rn;输入:xx1x2...xnT∈X输出空间:Y1−1;输出:y=∈Yfxsignw∗xb1w∗xb≥0−1w∗xb0​其中,wx1x2...xnT∈Rn称为权值, $b \in R $ 称为偏置,w∗x表示内积假设空间:Ff∣fxw∗xb。

qq_62954485的博客 1076
上一篇: 洛谷-1144 最短路计数
下一篇: 《统计学习方法》(第三章)—— K邻近
mkopvec
博客等级 码龄8年 22粉丝 331原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值