qq_34648068的博客

最近想要学习CUDA编程，第一步便是配置环境，我用的是VS2022，CUDA11.8、libtorch1.10.0、python3.7。

网上找了一些解决此问题的办法，如：1、使用decimal模块，2、python中使用128位浮点数。原本在matlba和numpy中相同的float64数组，在做FFT变换后，发生了一些细微的改变。结论：matlab程序的最终实验结果是比较正确的，在转换到python上后实验结果非常差，由此能判断numpy的浮点数计算存在更大的误差。最近在将matlab代码转为python代码时，出现了一些问题，主要是在浮点数的误差方面的问题。