qq_43711697的博客

前言主要记录李宏毅机器学习2021中介绍GAN部分的笔记，从GAN的发展开始到GAN的基本理论再到GAN生成的评价方法最后到介绍流行的GAN方法。一、GAN的基本介绍GAN的全名是Generative Adversarial Network生成对抗网络，其主要的目的是为了让训练机器让机器能够自主生成相对应类型的图片，其中生成器generator就是GAN中进行生成相对应类似分布的网络，而鉴别器Discriminator就是判别生成器生成是否为真假的网络，鉴别器通过将输入的图像转换成一个判别值来判断真

前言：本文主要记录关于李宏毅机器学习2021中Transfomer和Normalization章节的相关笔记，其中Transformer主要介绍了在NLP领域的作用而Normalization主要介绍Batch Normalization的操作。一、Normalization① 为什么要做归一化处理先说归一化的目的或者优点：归一化的目的主要是为了让模型的收敛速度更快，对于使用梯度下降优化的模型，每次迭代会找到梯度最大的方向迭代更新模型参数。但是，如果模型的特征属性量纲不一，那么寻求最优解的特征空间

前言本文主要记录关于李宏毅机器学习2021中HW3和HW4的卷积神经网络和自注意力机制网络部分的笔记，主要介绍了CNN在图像领域的作用及如何处理图像数据，Self-Attention在NLP(自然语言处理)领域的作用和处理词之间的关系。一、CNN卷积神经网络CNN处理图像的大致步骤前面介绍的FCN全连接神经网络是通过把一维的向量不断通过中间的隐藏层的multi和bias最后输出指定列数的vector，而图像这个多维向量是经过一个卷积神经网络最后再经过flatten展开成一维再通过FCN输出对应

前言本文是基于台湾李宏毅机器学习的笔记，本文主要记录关于梯度下降的知识点一、梯度下降梯度下降法简介梯度下降的优化目标是使得损失函数L最小，其中θ为参数，假设 θ 有里面有两个参数 θ1, θ2 随机选取初始值 ，η为学习率梯度下降遇到的问题梯度下降过程中可能会遇到马鞍点，局部最小点，下降速率过慢等等情况，如下图所示，这些情况导致的后果就是梯度约等于或等于0，即梯度消失，在深度学习中，对于梯度消失问题尤其看重，梯度消失意味着网络失去了活性相当于网络死亡。二、梯度下降优化

前言本文是基于台湾李宏毅机器学习课程所记录下的笔记，本文主要关于回归内容进行了整理和总结一、回归回归案例回归的应用层面有很多，比如股市房价预测，输入往年的股票房价数据输出未来的预期值；在自动驾驶方面也有所应用，输入传感器数据预测方向盘的角度，以及在商品推荐上等等。二、回归模型Step1 模型假设：线性模型通过对输入特征数来进行线性模型的假设(这里介绍线性模型)Step2 损失函数损失函数是判断模型的好坏，最简单的损失函数也是最常见的就是计算模型输出和真实标签之间的距

前言本文记录了关于机器学习的基本介绍，机器学习的一个基本的框架以及机器学习的相关技术，并且本文是基于台湾李宏毅机器学习课程的基础上所做的笔记。一、机器学习介绍机器学习是什么机器学习的本质其实就是在寻找一个Function，这个Function可以满足我们的期望：输入一个特定的值，输出我们所需要的，比如在自然语言方面输入一段语音期望能够识别出语音的内容，在图像识别方面，输入图像期望输出图像内容的类别等等机器学习的总体过程机器学习的总体过程可以分为三个部分：第一找到特定的Functi

利用OpenCV中的级联分类器训练的Haar+Adaboost分类算法在这里我们采用了cascade.xml 检测模型——目前效果最好的cascad级联检测模型。然后使用OpenCV的detectMultiscale的方法来对图像进行滑动窗口遍历寻找车牌，实现粗定位。detectMultiscale函数为多尺度多目标检测：多尺度：通常搜索目标的模板尺寸大小是固定的，但是不同图片大小不同，所以目标...

本文使用的数据集是YALE_32X32.mat和COIL20.mat数据集，这两个数据集应该是很容易就可以得到的。这里给出两个数据集链接https://pan.baidu.com/s/1wrBpIHUjC9tCwGwVPKMPNg提取码：s45a用Python来可视化数据集其实很简单当然也可以用C++或Matlab可视化也可以的，但是本人偏向于喜欢用Python来而且Python的优点很多接...

SVM