神经网络为什么会选择logistic函数

最新推荐文章于 2023-08-04 15:09:28 发布

Coder_Shan

最新推荐文章于 2023-08-04 15:09:28 发布

阅读量655

点赞数

CC 4.0 BY-SA版权

分类专栏： Python ML DL

本文链接：https://blog.youkuaiyun.com/jianhun987/article/details/80788081

ML 同时被 3 个专栏收录

8 篇文章

订阅专栏

Python

4 篇文章

订阅专栏

1 篇文章

订阅专栏

本文探讨了神经科学中神经元的工作原理，并将其与Logistic回归中的LogOddRatio概念进行了对比。通过数学推导，揭示了二者之间的联系，即当LogOddRatio大于0时，神经元发放脉冲。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

                    
                    在神经科学中: 

神经元对其输入进行加权求和：f(x)=WTXf(x)=WTX
如果该和大于某个阀值f(x)>tf(x)>t,神经元发放脉冲
在Logistic回归，定义Log Odd Ratio: 
LOR(X)=logp(y=1|X,W)p(y=0|X,W)=log[11+e−WTX1+e−WTXe−WTX]LOR(X)=logp(y=1|X,W)p(y=0|X,W)=log[11+e−WTX1+e−WTXe−WTX]

=log[e(WT)X]=WTX=log[e(WT)X]=WTX
因此if LOR(X)=WTX>0LOR(X)=WTX>0,神经元发放脉冲，即： 

p(y=1|X,W)>p(y=0|X,W)p(y=1|X,W)>p(y=0|X,W)