感知机(Perceptron)

最新推荐文章于 2024-04-29 23:32:37 发布

victor-gx

最新推荐文章于 2024-04-29 23:32:37 发布

阅读量93

点赞数

分类专栏：笔记 PyTorch 文章标签： pytorch 深度学习神经网络

本文链接：https://blog.youkuaiyun.com/weixin_51296032/article/details/122871478

版权

笔记同时被 2 个专栏收录

43 篇文章

订阅专栏

PyTorch

23 篇文章

订阅专栏

本文介绍了如何使用PyTorch实现多输出感知机，通过sigmoid激活函数和MSE损失函数，演示了从单输出模型升级到处理多个输出的实例，并展示了梯度更新过程。重点在于理解多输出感知机的结构和训练策略。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

感知机

单一输出感知机

Perceptron
$[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ZFOgfgoj-1644507323774)(H:\codes\pytorch\Deep_Learning_PyTorch_note\感知机.assets\image-20220125155808587.png)]$

>>> x=torch.randn(1,10)
>>> w=torch.randn(1,10,requires_grad=True)
>>> o=torch.sigmoid(x@w.t())
>>> o.shape
torch.Size([1, 1])
>>> loss=F.mse_loss(torch.ones(1,1),o)
>>> loss.shape
torch.Size([])
>>> loss.backward()
>>> w.grad
tensor([[ 2.8638e-04, -1.2158e-04,  4.6992e-04, -6.7869e-04, -3.7104e-04,
          1.3603e-04, -3.2423e-04,  3.9840e-05, -7.9040e-04,  3.5146e-04]])

多输出感知机

Multi-output Perceptron
$[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-et6Ct9Uj-1644507323777)(H:\codes\pytorch\Deep_Learning_PyTorch_note\感知机.assets\image-20220125155939860.png)]$

>>> x=torch.randn(1,10)
>>> w=torch.randn(2,10,requires_grad=True)
>>> o=torch.sigmoid(x@w.t())
>>> o.shape
torch.Size([1, 2])
>>> loss=F.mse_loss(torch.ones(1,2),o)
>>> loss
tensor(0.2884, grad_fn=<MseLossBackward>)
>>> loss.backward()
>>> w.grad
tensor([[ 1.2850e-01, -3.1896e-01,  1.2666e-01, -5.5502e-02, -4.8003e-02,
          7.3731e-02, -3.3998e-01,  2.8499e-01, -1.2586e-01,  1.4811e-01],
        [ 2.2933e-05, -5.6922e-05,  2.2603e-05, -9.9049e-06, -8.5667e-06,
          1.3158e-05, -6.0674e-05,  5.0860e-05, -2.2462e-05,  2.6432e-05]])