深入理解 PyTorch 激活函数

激活函数是神经网络中的重要组成部分，它引入了非线性性质，使得神经网络可以学习复杂的非线性关系。PyTorch作为一种流行的深度学习框架，提供了多种激活函数的实现。在本文中，我们将深入探讨PyTorch中的常见激活函数，并提供相应的源代码示例。

一、Sigmoid函数
Sigmoid函数是一种常用的激活函数，它将输入值映射到0到1之间的连续输出。在PyTorch中，可以使用torch.sigmoid函数来实现Sigmoid激活函数。以下是一个示例代码：

import torch

x = torch.tensor([-1.0, 0.0, 1.0