机器学习的网络们
申明:资料大部分来源于d2l,如有错误还望指正
1. 线性神经网络
1.1 线性回归
线性网络,对应的就是基础的线性函数
网络结构大概如下所示,输出的内容则主要是0,1两个数字,
实现代码
def linreg(X, w, b): #@save
"""线性回归模型"""
return torch.matmul(X, w) + b
1.2 softmax 回归
从线性回归到了多分类回归,可以输出多个结果
表达式
实现的代码
def softmax(X):
X_exp = torch.exp(X)
partition = X_exp.sum(1, keepdim=True)
return X_exp / partition # 这里应用了广播机制
2. 多层感知机
类似下图这样的两个颜色的点就无法成功拟合出来
2.1 多层感知机
单分类
此处引入激活函数
通过激活函数引入非线性的特性,从而更加方便的提升复杂度,拟合