【动手学深度学习】线性神经网络

1.线性回归基本概念

回归:能为一个或多个自变量与因变量之间关系建模的一类方法。表示输入和输出之间的关系,通常与预测有关,但不是所有的预测都是回归问题
注:

• 回归和分类
  预测包括分类和回归，若预测的是离散值,比如好瓜和坏瓜,则是分类问题；若预测的是连续值,比如西瓜熟度0.95,0.55,则是回归问题。
• 预测和回归
  预测是目的,回归是工具，即除了回归外还可以使用决策树,神经网络等。
• 回归和自回归
  回归是建立模型，描述输入和输出之间的关系；自回归是时间序列模型，训练得到的模型表示了随时间变化的y之间的相互依赖性与相关性，即用当前预测的字符再去预测接下来的信息。
  线性回归的基本元素
  线性回归是回归问题中最简单且最流行的。线性回归基于几个简单的假设:首先,假设自变量x和因变量y之间的关系是线性的，即y可以表示为x中元素的加权和,这里允许观测值的一些噪声；其次，假设噪声都比较正常，如噪声遵循正态分布。
  注:
  噪声:样本中有问题的点
  线性模型
  
  
  (通常用“尖角”符号表示y的估计值）
  在开始寻找最好的模型参数w和b之前ÿ