基于浮点数表示成二进制的原理限制,任何浮点数都只能是近视地在内存中表示(无论什么语言)。要想精确地使用浮点数,要么就依赖一些库,,比如java的bigdecmical,来运算和浮点相关的数值。要么就转换成字符串来处理。
第二点是尽量避免使用浮点数,尽量使用整型变量。尤其是在做比较的场景下,尽量用整型类型的变量。
文章讨论了浮点数在二进制表示下的精度限制,指出任何浮点数在内存中都是近似存储的。为确保计算精确,建议使用如Java的BigDecimal类或其他库。同时,建议在比较操作中优先使用整型变量以避免精度导致的问题。
基于浮点数表示成二进制的原理限制,任何浮点数都只能是近视地在内存中表示(无论什么语言)。要想精确地使用浮点数,要么就依赖一些库,,比如java的bigdecmical,来运算和浮点相关的数值。要么就转换成字符串来处理。
第二点是尽量避免使用浮点数,尽量使用整型变量。尤其是在做比较的场景下,尽量用整型类型的变量。

被折叠的 条评论
为什么被折叠?