AI大模型 - 深度学习2

一、 Pytorch自动微分

1. 自动微分模块

自动微分（Automatic Differentiation, AD） 是 PyTorch 的核心功能之一，它通过 autograd 模块实
现，无需手动计算梯度，极大简化了神经网络训练等依赖梯度优化的任务。
关键点：
torch.autograd：Pytorch的自动微分引擎，在张量计算时自动跟踪操作并构建计算图（动态图），反向传播时自动计算梯度。
启用：

• 通过设置requires_grad=True标记需要追踪梯度的张量（如：模型参数）

import torch
x = torch.tensor([2.0],requires_grad=