AviatorScript关于精度的坑(Double类型的0.0000000000000001问题)
比较运算符 两边的计算结果和静态值明明人眼观察下是相等的,为什么得到的结果却与人算的出来的结果不一致呢?1. 公式中的静态值 `0.95` 在系统中转换后,它被 `Double` 类型表示为了 `0.9500000000000001`。2. 用计算结果的 `0.95` 去和 `0.9500000000000001` 做比较,得到的结果理所当然是 `=` 了
原创
2023-03-07 20:33:38 ·
1490 阅读 ·
1 评论