浮点数运算

于 2022-02-02 21:05:22 发布
阅读量188 收藏
点赞数 1
CC 4.0 BY-SA版权
分类专栏： 计算机组成原理 文章标签： 计算机组成原理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_34687559/article/details/122772076
本文探讨了在32位机器上进行浮点数到整数转换时精度丢失的现象，指出由于int类型无法表示小数部分，导致转换过程中精度损失。主要关注浮点数尾数对转换结果的影响。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

  • 加减运算
    • image-20220202150645869
    • image-20220202151127480
    • 这两差不多，没啥
    • image-20220202151501613
  • 强制类型转换
    • image-20220202151823318
    • 这里是用的32位机器做的示例
    • 然后float到int的精度丢失在于，int无法表示小数
    • 进度主要看浮点数的尾数
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值