STFT后续——Java精度问题

哈喽,之前的博文【第一个第二个第三个】我已经实现了CPP、Java版的stft,而且我也知道采用float类型有精度损失,今天试了下double,果然结果与python的stft结果基本没有差别。

实验数据是1~1024,做stft,结果误差如下:其中abserror是绝对误差,pererror是百分误差,就是percentage error

#test_java_arrays_py.py
real:abserror=0.001041,pererror=0.000000,stft.real=78462.351562,java_real=78462.352604

real:abserror=0.004427,pererror=0.000000,stft.real=137791.171875,java_real=137791.176302
imag:abserror=0.001719,pererror=0.000000,stft.imag=57851.957031,java_imag=57851.958750


real:abserror=0.014651,pererror=0.000000,stft.real=387427.312500,
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小李飞刀李寻欢

您的欣赏将是我奋斗路上的动力!

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值