if(dot[k]>1){输出dot[k]的值;}输出的结果却是dot[k]=1

探讨了在使用double类型变量进行计算时遇到的精度问题。即使计算结果理论上大于1,由于浮点数的精度限制,输出可能仍显示为1,实际值可能是1.000000000000001。

double dot[k];

if(dot[k]>1)

    {cout<<“dot[k]=”<<dot[k]<<endl;}

输出的结果却是dot[k]=1


是因为之前有一大堆计算得出dot[k],而我设置的dot[k]是double类型16位的,所以就算它输出的是1,其实可能是1.000000000000001,而输出只显示小数点后6位,所以看起来还是1

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值