pytorch自定义函数实现自动梯度

Motivation

构建模型有时需要使用自定义的函数，为了不影响模型的反向传播，需要实现自动梯度计算（即把自定义函数嵌入计算图）。

---

实现

要点：

1. 将函数定义为类，需继承自torch.autograd.Function类
2. 需实现两个静态方法：forward()和backward()，分别对应前向传播和反向传播
3. 函数使用前需调用apply方法从而嵌入计算图，实现自动求导

用一个例子来说明:
假设我们要实现一个多项式拟合模型： $y=a+b{P}_2(cx+d)$ ，用来拟合正切函数，其中$P_{}$