XZ_iOS之关于double/float数据计算精度问题

最新推荐文章于 2023-04-09 04:12:41 发布

原创

最新推荐文章于 2023-04-09 04:12:41 发布 · 1.3k 阅读

3 ·

CC 4.0 BY-SA版权

文章标签：

#0.01被转换成 0.0099999... #处理计算精度要求很高的数据 #浮点数double/float的转化精度导致的bug #NSDecimalNumber的使用 #NSString取double或float值时精度不准确

 
 1、我们的app有一个判断，当用户输入的值，小于等于剩余的余额时，给用户弹窗，代码不往下执行 

 
 当用户输入 0.01 时，po 一下的结果是：0.10000.... ，当用户的余额是0.01时，po一下网络请求的返回结果是：0.009999... 

 
 当用户输入 66.05时，po 一下的结果是：66.049999...，当用户的余额是66.05时，po一下网络请求的返回结果是：66.049999... 

 
 所以，当数据较大时，不会有影响，因为用户输入的数据和网络返回数据都被变成了不精确的小值了；但是，当数据较小时，用户输入的数据没有被转，网络返回的数据被转成了不精确的小值，导致用户输入永远大于网络返回的数据，代码无法往下执行； 

 
 解决：使

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Understand_XZ

关注关注

0
点赞
踩
3

收藏

觉得还不错? 一键收藏
1
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

XZ_iOS之使用陀螺仪判断屏幕方向

understand_XZ的博客

05-30

2346

目录 Swift版本实现方法方法调用 OC版本 .h 方法 .m方法实现思路：每隔一段时间监听手机方向，如果发生改变就发送通知。 Swift版本 import CoreMotion // 导入框架实现方法 class XZDeviceOrientation: NSObject { private let sensitive...

XZ_Swift 之HealthKit 获取手机计步统计

understand_XZ的博客

04-19

1348

目录 1、配置工程 2、设置Capabilities 3、设置 Info.plist 4、错误解决 5、代码编写 6、demo下载 1、配置工程注意：Team这个地方必须是企业的或者是公司的，不能是Personal Team。如下图 2、设置Capabilities 设置完了之后，左侧会出现 XZHealthDemo.entitlements。如下图： 3...

1 条评论您还未登录，请先登录后发表或查看评论

iOS 解决floatValue，doubleValue等计算不精确问题，一句话解决精确计算，精确比较

10-15

iOS 解决字符串floatValue，doubleValue等后计算不精确问题，一句话解决精确计算，精确比较

iOS double类型精度问题以及计算问题

天行健，君子以自强不息

01-22

3973

当设计到金钱的计算.但是利用double类型数据会不稳定. 1:控制double类型的精度 double abc = 0.1 - 0.01 - 0.00001009; NSNumberFormatter *nf = [[NSNumberFormatteralloc ]init]; [nf setMaximumIntegerDigits:8]; NSNu

ios long转float_详解iOS之关于double/float数据计算精度问题

weixin_39612057的博客

12-23

263

1、我们的app有一个判断，当用户输入的值，小于等于剩余的余额时，给用户弹窗，代码不往下执行当用户输入 0.01 时，po 一下的结果是：0.10000.... ，当用户的余额是0.01时，po一下网络请求的返回结果是：0.009999...当用户输入 66.05时，po 一下的结果是：66.049999...，当用户的余额是66.05时，po一下网络请求的返回结果是：66.049999...所...

[iOS]处理处理浮点类型精度丢失问题

Gamin

12-31

1550

如图，网络请求返回的浮点数精度丢失，直接展示肯定是有问题的。使用时保留两位小数并去掉末尾的0 + (NSString *)dealwithJDDSWithFloat:(float)number { NSString *jqStr = [NSString stringWithFormat:@"%.2f",number]; NSString *newStr = [NSString...

iOS（swift0 string,Int,Double，Float相互转换

baidu_40537062的博客

11-12

990

swift string,Int,Double相互转换

Unity 工具之常用插件分类汇总（UI/VR/AR/建模/Shader/动画/网络/AI/资源/数据/区块链等）

热门推荐

仙魁XAN

02-07

5万+

大数据-数仓-数据采集-业务数据（二）：全量同步采集【MySQL＜--＞DataX(全量)＜--＞HDFS】【每日全量：每天都将业务数据库中全部数据同步到数据仓库，是保证两侧数据同步的最简单方式】

u013250861的博客

04-09

683

1.种类繁多的数据同步工具中，大致可以分为两大类：① 基于Select查询的离线、批量同步工具，代表：DataXSqoop；② 基于数据库数据变更日志（mysql的binlog）的实时流式同步工具，代表：Maxwell、Canal；2.上述同步工具的全量或增量同步适用如下：同步类型DataXSqoopMaxwellCanal全量同步Ö增量同步ÖÖ3.同步工具之间对增量同步不同方案的对比对比增量同步方案DataXSqoopMaxwellCanal对数据库的要求。

double与float的转换

best_scenery的博客

03-18

1万+

分析一次double强转float的翻车原因 float有效位：最多可表示24个二进制位,224=223+223-1=16777215 在表示整数时，当整数部分的位数大于24时，就会出现整数截断的现象，所以作者的83459338在存储位float,再取出时会成为83459336的现象。待表示的数值，不论小数还是整数，有效位数在0-16777215之间的都不会发生截断，可正确表示，大于16777...

MySQL拾遗之浮点类型(float和double)

爱喝水的qdy的博客

12-17

382

在 MySQL 中，有一条忠告，就是「不要使用浮点类型，不要使用浮点类型，不要使用浮点类型」，如果真要使用，那么也请使用 DECIMAL 类型。为什么呢？因为浮点类型的值是「近似」精度，而且，因为它们都有使用 4 或 8 字节存储，而会带来另一些往往想不到的雪上加霜的问题。近似值的浮点类型 浮点数有时会引起混淆，因为它们存储的是近似值而不是精确值，这就可能直接导致了在 SQL...

iOS Double/Float 类型的数据计算精度问题

生活一地鸡毛

04-03

2501

问题：在iOS开发中，我们会经常碰到使用浮点型接收后台返回的数据，这个时候往往就会遇到精度转换问题，尤其是在开发金融类APP的时候：解决：使用 NSDecimalNumber 将float/double数据转化成NSDecimalNumber 类型的对象进行 +、-、*、/ 运算。 -(double)decimalNumber:(double)num1 num2:(double)num2 ...

iOS 如何正确输出double、float、 long double类型的数据

LGSC的IOS学习之路专栏

02-27

2725

要求传入的数据类型为long double，那么输出这种类型的数据要用%Lf的方式要求传入的数据类型为double，那么输出这种类型的数据要用%f的方式要求传入的数据类型为float，那么输出这种类型的数据要用lf的方式当需要保留几位小数时依然跟以前一样加个%.2Lf即可...

iOS 两个double类型的数据比较大小

blackbigdragon的博客

05-14

3463

对于只有两个有效的double是可以直接判==的而不用搞什么相减和一个极小数相比也就是说两个double之间，>、<、==、！=,<=,>=都是可以直接用的。但如果（两组中）每组包括3、4个double类型，进行运算后（比较加减乘除运算后），得出的两个double数进行比较，除了可以采用与极小数比较，还可以用NSDecimalNumber这个类来处理浮点...

iOS数据类型

weixin_30527323的博客

05-23

173

数据类型 1.Objective-C数据类型可以分为:基本数据类型、对象数据类型和id类型。 2.基本数据类型有：int、float、double和char类型。 3.对象类型就是类或协议所声明的指针类型，例如: NSAutoreleasePool *pool ,其中，NSAutoreleasePool是一个类，NSAutoreleasePool *是它指针类型或叫对象类型。 4...

深入浅出iOS浮点数精度问题 (上)

yangxiaohei1234的博客

09-06

1863

iOS 浮点数 精度丢失 doubleValue floatValue NSString iEEE

iOS 解决相关的精度问题

jq2530469200的博客

07-29

3868

最近在项目中遇到一些问题；虽说这个问题不难，但是，解决起来十分的麻烦，其中就有一些相关的精度问题：下面我就介绍一下我们遇到的问题通过网络请求直接得到一些数据Data ，通过iOS 系统自带的解析方式： NSDictionary *dic = [NSJSONSerialization JSONObjectWithData:responseObject options:N

iOS中处理计算精度要求很高的数据

骑马走天涯的博客

07-05

7498

举个栗子：计算0.1*999999 看看会有什么结果？ - (void)testDecimalNumber { double d1 = 0.01; double d2 = 999999; double d3 = d1 * d2; NSLog(@"%@",n3); }结果：和我们想到的结果：9999.99不同遇到这种问题解决办法如下：- (void