想了一个函数
可以模拟量化行为
全程可微
原型
y = x*sin(x)

变体A,或许可以当激活函数
y = x*0.5+sin(x*5)*0.5

变体B,用来模拟量化,另外每个小区间,都有一个窝,像Swish函数
y = x*0.9+sin(x*10)*0.1

MATLAB 绘图命令
x = [-5:0.01:5]
y = x+sin(x)
plot(x,y), grid on, axis square
y = x*0.5+sin(x*5)*0.5
plot(x,y), grid on, axis square
y = x*0.9+sin(x*10)*0.1
plot(x,y), grid on, axis square

本文介绍了一种新的函数原型,能够模拟量化行为并全程可微。通过调整参数,该函数可作为激活函数用于神经网络中,或模拟量化效果。提供了MATLAB绘图命令以直观展示函数特性。
4911

被折叠的 条评论
为什么被折叠?



