神经网络基础:激活函数、CNN、RNN全解析
1. 前馈神经网络(FFNN)与激活函数
1.1 FFNN的输出计算
在FFNN中,经过加权组合后的结果需要传递给激活函数 $f$ 来计算输出,公式为 $Z = f(y)$。这个激活函数决定了神经元是否会被激活。以下是一个简单的FFNN模型的PyTorch实现代码:
# . . . . . . . . . . . . . . class imports . . . . . . . . . . . .
import torch
import torch.nn as nn
# . . . . . . . . . . . . . . Model Building . . . . . . . . . . .
class FeedForewardNeuralNet(nn.Module):
def __init__(self, input_size, hidden_size, num_classes):
super(FeedForewardNeuralNet, self).__init__()
self.fc1 = nn.Linear(input_size, hidden_size)
self.relu = nn.ReLU()
self.fc2 = nn.Linear(hidden_size, num_classes)
def forward(self, x):
out = self.fc1(x)
out = self.relu(out)
o
超级会员免费看
订阅专栏 解锁全文
2501

被折叠的 条评论
为什么被折叠?



