C/C++精度问题

数值类型精度详解

最新推荐文章于 2023-10-25 09:20:30 发布

原创最新推荐文章于 2023-10-25 09:20:30 发布 · 1.7k 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#C-C++ #precision

                    
                    float二进制精度24位
float十进制精度6位或7位

double二进制精度53位
double十进制精度15位或16位

long long 十进制精度18或19位
long long 的最大值9223372036854775807（19位）

int 二进制精度32位
int十进制精度9位或10位
int最大值2147483647（10位）

精度上要注意的问题
long long转double注意精度丢失
运算过程中不能溢出，注意平方等运算（例如：CF785C）

未完待续