qq_45351128的博客

损失函数最小二乘法极大似然估计法交叉熵在梯度下降中，所求的梯度其实就是损失函数的梯度。损失函数有三种设计方法：（1）最小二乘法（2）极大似然估计法（3）交叉熵法什么是损失函数呢？其实就是我们想的模型标准和现实模型相比较，相差多少的定量表达。那么损失函数如何设计出来的呢？背后的含义是什么？最小二乘法公式：举例存在一个神经网络，用于判断输入的图片是否是猫。首先我们先输入一些带标签的训练数据，xi就是输入数据的标签(xi表示第i张是否是猫，1是猫，0不是猫)这些图片在经过神经网络后

Classification 分类分类问题的应用能否用Regression去解决Classification？分类问题的应用输入一只宝可梦，输出他对应的属性分类如何把宝可梦当作input输入呢？我们需要将宝可梦数值化。用一个vector矢量去表示一只宝可梦，vector可以包括HP血量、Attack攻击力、Defence防御力、Speed速度等。所以接下来的问题就是输入一个vector，输出对应的属性值。能否用Regression去解决Classification？以某一个二分类问题作为例子

Gradient DscentReview在第三步，我们得通过调整参数θ去使损失函数达的结果达到最小，既找到评分最高的function的参数θ。我们通过η学习率(调整的幅度)和偏导(调整的方向)去调整参数θ。调整的过程就是Gradient Dscent在θ处的Gradient为：【梯度代表上升最快的方向，所以我们要减去梯度，既往下降最快的方向走】进一步把方程写成：Learning Rate的影响下图左图，（1）当Learning Rate设置的很小时，Loss下降的速度会很慢；（

机器学习笔记第一节课Regression-回归问题第一节课一、机器学习就是自动寻找函式输入一段音频，通过函式输出相应的句子。输入一张图片，通过函式输出相应的图片名词。二、Supervised Learing(监督学习)在找函数前先给一些正确的数据集(带标注的数据集)，通过数据集找到一个函数三、Reinforcement Learning(强化学习)不要求预先给定任何数据，通过接收环境对动作的反馈获得学习信息并更新模型参数四、Unsupervised Learning(无监督学习)在找函

Basic Concept在进行预测时会产生error，但是error是怎么产生的呢？（1）bias：有可能是偏置导致的 。(距离靶心有多远)（2）variance：方差，有可能是Loss Function导致的(在靶心的分散程度)蓝点：在训练集中抽取N个数据，训练出一个函数f*，既一个点代表某一分采样数据训练后的的function。对每个训练出来的**f***取平均值，得到“平均函数”。**f***距离“平均函数”的距离代表了variance，距离靶心(最佳函数)的距离就是bias。我们对数据