重新认识java-被忽视的数值转化

最新推荐文章于 2025-09-10 22:21:01 发布

转载最新推荐文章于 2025-09-10 22:21:01 发布 · 55 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：https://my.oschina.net/dajianguo/blog/834309

文章标签：

#java #python

本文探讨了在编程中容易被忽视的数值类型转换问题，包括整型溢出、整型与浮点型运算导致的精度损失等常见场景，并给出了相应的解决方案。

2019独角兽企业重金招聘Python工程师标准>>>

被忽视的数值转化
场景1 [float faa=1111111111111111111;] 编译器会先把1111111111111111111转化为整形超位了正确的应该是 [float faa=1111111111111111111L;]

场景2 int a = 10_0000_0000;
int b=20;
float total = a*b; 返回负数因为a*b会按照整数计算再把计算结果交给total。正确的应该这样float total = (float)a*b;

场景3 int和long 转化为float时会损失精度 long转化为double时会损失精度但是int转化为double不会损失精度
因为
float：
1bit（符号位） 8bits（指数位） 23bits（尾数位）
double：
1bit（符号位） 11bits（指数位） 52bits（尾数位）

转载于:https://my.oschina.net/dajianguo/blog/834309