小火球儿

**写在前面：**由于在读论文时看到了LGP算法，在网上没有找到相关原理解释，所以写篇博客记录一下，方便有需要的同学学习。LGP (Local Gradient Patterns)特征匹配算法的原理参考文献及文章主旨文献来源：Research on real – time tracking of table tennis ball based on machine learning with low-speed camera

卷积神经网络卷积神经网络(CNN)：卷积+池化+全连接卷积：特征的自动提取局部特征提取训练中进行参数学习每个卷积核提取特定模式的特征卷积降低了网络模型的复杂度，减少了权值的数量卷积所进行的操作也可以说是加权求和的操作大矩阵称为原始图像， 橙色的部分的每个小框的右下角为卷积核为 原始图像 和 卷积核 点积运算之后得出的 卷积特征池化（下采样）： 降维的一种方式降低数据维度增强局部感受野提高平移不变性全连接：分类，并且可以换成KNN，决策树，SVM等分类算法特征提

自动编码机自动编码器就是一种尽可能复现输入信号的神经网络为了实现这种复现，自动编码器就必须捕捉可以代表输入数据的最重要因素，和主成分分析类似，找到可以代表原信息的主要成分一般的神经网络学习都是有标签的学习，根据当前计算的输出值和label之间的差去改变前面各层的参数，直到收敛。但是对于无标签的数据，神经网络无法进行反向传播进行训练，此时需要找到一个特征进行学习。无监督学习过程：将input输入一个encoder编码器，就会得到一个code，这个code也就是输入的一个表示增

深度学习机器学习的本质：特征自动学习在机器学习中，获得好的特征是识别成功的关键一般而言，特征越多，给出的信息就越多，识别准确性会得到提升。但是如果特征多，那么计算的复杂度就会增加，探索的空间大，可以用来训练的数据在每个特征上就会稀疏。所以，深度学习需要解决的问题就是：让机器自动地学习特征。层次网络结构深度学习的本质上就是模拟人脑的思维方式。1981年由人脑视觉信息系统的信息处理机制发现，当瞳孔发现了眼前物体的边缘，而这个边缘指向某个方向时，这种神经元细胞就会活跃。视觉的层次性：

BP神经网络是误差反向传播算法误差反向传播算法是根据权重，反推各神经元的误差：具体步骤为：当最终根据神经网络得到各个输出神经元的输出值后，分别根据输出值和真实值的差计算出每个输出神经元的误差，得到每个输出神经元的输出误差之后，根据每个输出神经元和前一层神经元连接的权值分别计算出上一个神经元的误差，依次类推，然后用梯度下降法修正相对应的权值。这就是误差反向传播算法。BP神经网络 = 多层感知机+误差反向传播（Back Propagation）学习算法即模型训练或者说连接权重的调整采用反向传播算法感

人工神经网络研究人工神经网络研究的目的和意义：目的：探索和模拟人的感觉、思维和行为的规律，设计具有智能的计算机系统探讨人脑的只能活动，用物化了的只能来考察和研究人脑智能的物质过程及规律。意义：争取构造出尽可能与人脑具有相似功能的计算机，即ANN计算机研究出仿照神经系统的人工神经网络，将在模式识别、组合优化和决策判断等方面取得传统计算机所难以达到的效果。广义上的人工神经网络：是对人脑或者自然神经网络若干基本特性的抽象和模拟，以大量的具有相同结构的简单单元的连接，来模拟人类大脑的思维结

主成分分析（无监督降维）降维技术：特征选择：从一个特征的集合里面，挑选出相应的特征。是直接抽取特征提取：不仅仅是提取了，而是通过组合或运算的方式，从现有的特征中抽象出新的特征。注意这个新特征并不属于原本的特征集合。是需要加工特征选择会影响模型的效果在实验数据分析模块，数据可视化等也需要维数约简，因为一般可以可视化的数据通常为二维或者三维主成分分析就是把原有的多个指标转化为少数几个代表性较好的综合指标，这少数几个指标能够反映原来指标大部分信息（85%以上），并且各个指标之间保持独立，避免出现重

定义：将相似的事物进行归类，聚类分析又称为同质分组或者无监督分类，指吧数据分成不同的簇，每簇中的数据相似而不同簇之间的数据距离较远簇内文档之间应该彼此相似簇内文档之间差异大无监督意味着没有已标注好的数据集分类和聚类的区别：分类：是有监督的学习，且类别事先人工定义好，并且是学习算法输入的一部分聚类：是无监督的学习，在没有人工输入的情况下从数据中推理而得聚类的评价指标也是纯度，但这个纯度和决策树里面的纯度不同对于每一个簇ωk：找到一个类别Cj，该类别包含ωk中的元素最多，为nkj个，

相关(correlation)与回归(regression)分类问题研究的是离散值，而回归问题所研究的目标变量是连续值，可以根据回归曲线来预测数值变量之间的关系分为函数（回归）关系和相关关系回归是研究自变量与因变量之间的关系形式的分析方法，其目的为根据已知自变量（输入量）来估计和预测因变量（输出量）的值相关是反映事物之间的非严格的不确定的线性依存关系，其特点为：事物之间在数量上确实存在一定的内在联系，表现在一个变量发生数量上的变化，要影响另一个变量也相应的发生数量上的变化，不如劳动生产率和成本

python学习python和C相异之处：书写格式（是以缩进形式，没有花括弧，不需要结尾的 ; ）：python循环中的循环体或者是if else 语句中的语句是没有花括弧括起来的，而是以 : 代替。python是严格按照缩进形式来表示层级关系，与yaml格式有点类似，这种书写方式可以有效避免if else语句的“悬挂”问题，体会以下两段代码在C和python中的异同:第一段：temp1 = 3if temp1>=2: print(">=2") if temp1&g

决策树（Decision Tree）决策树又称为判定树，是数据挖掘中的一种重要的分类与回归方法，它是一种以树结构(包括二叉树和多叉树)形式来表达的预测分析模型是一种有监督的算法决策树有两种，一种是分类树（输入是离散的），一种是回归树（输入是连续的）决策树由节点和分支组成：（详情参考数据结构书本）节点分为三种：根节点，内部节点，叶节点分支：用于连接各个节点决策树分为以下结构：每个内部节点对应于某个属性上的测试(test)或者说是大类每个分支对应于该测试的一种可能结果每个叶节点对应

支持向量机其本质就是找到正确分类的一组线，也就是寻找一条y = kx+b的直线，使得这条直线距离最接近的点距离最远距离最接近的数据点称为支持向量（support vector），支持向量定义的沿着分割线的区域称为间隔（margin）以上所述只是二维下的情况，如果遇到三维、四维、五维或者更高维的更复杂问题，那么我们据需要找到一个超平面，使得它能够尽可能多的将两类数据点正确的分开，同时使分开的两类数据点距离分类面最远。由于支持向量机在分类的时候可能将分割线划分在一定的范围内分割效果会更好，但是

手写字识别对手写字体图片进行识别最重要的一点就是要将其转化为二值化（就是就是将图像上的像素点或灰度值设置为0或1，其呈现就是非黑即白）后的数据，然后再进行处理，在手写体处理中，二值化就是有手写笔画的部分用1表示，其余部分用0表示（当然也可以根据自己所写的算法进行调整）手写字识别可以用很多种算法来计算，首先用Knn算法来实现：Knn算法进行手写数字的识别# -*- coding: utf-8 -*-# @Time : 2021/7/19 20:30# @Author : wcc# @

机器学习交通工具（无人机，自动驾驶）VR（虚拟现实）比特币，区块链定义：人工智能是研究开发用于模拟，延伸和扩展人的只能的理论、延伸和扩展人的智能的理论、方法、技术及应用系统的一门综合性交叉学科。弱人工智能：包含基础的，特定场景下角色型的任务，如Siri和AlphaGo机器人通用人工智能：包含人类水平的任务，涉及机器的持续学习。强人工智能：比人类更聪明的机器。机器学习是人工智能的一个领域深度学习又是机器学习的一个分支人工智能包括：思考方面：机器学习，自动推理，人工意识，知识表示听