XZ_iOS之关于double/float数据计算精度问题

最新推荐文章于 2024-07-26 09:39:59 发布

Understand_XZ

最新推荐文章于 2024-07-26 09:39:59 发布

阅读量1.3k

点赞数

CC 4.0 BY-SA版权

分类专栏： iOS 文章标签： 0.01被转换成 0.0099999... 处理计算精度要求很高的数据浮点数double/float的转化精度导致的bug NSDecimalNumber的使用 NSString取double或float值时精度不准确

本文链接：https://blog.youkuaiyun.com/understand_XZ/article/details/79355615

 
 1、我们的app有一个判断，当用户输入的值，小于等于剩余的余额时，给用户弹窗，代码不往下执行 

 
 当用户输入 0.01 时，po 一下的结果是：0.10000.... ，当用户的余额是0.01时，po一下网络请求的返回结果是：0.009999... 

 
 当用户输入 66.05时，po 一下的结果是：66.049999...，当用户的余额是66.05时，po一下网络请求的返回结果是：66.049999... 

 
 所以，当数据较大时，不会有影响，因为用户输入的数据和网络返回数据都被变成了不精确的小值了；但是，当数据较小时，用户输入的数据没有被转，网络返回的数据被转成了不精确的小值，导致用户输入永远大于网络返回的数据，代码无法往下执行； 

 
 解决：使

最低0.47元/天解锁文章

200万优质内容无限畅学

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Understand_XZ

关注关注

0
点赞
踩
3

收藏

觉得还不错? 一键收藏
1
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

XZ_iOS之使用陀螺仪判断屏幕方向

understand_XZ的博客

05-30

2312

目录 Swift版本实现方法方法调用 OC版本 .h 方法 .m方法实现思路：每隔一段时间监听手机方向，如果发生改变就发送通知。 Swift版本 import CoreMotion // 导入框架实现方法 class XZDeviceOrientation: NSObject { private let sensitive...

XZ_Swift 之HealthKit 获取手机计步统计

understand_XZ的博客

04-19

1309

目录 1、配置工程 2、设置Capabilities 3、设置 Info.plist 4、错误解决 5、代码编写 6、demo下载 1、配置工程注意：Team这个地方必须是企业的或者是公司的，不能是Personal Team。如下图 2、设置Capabilities 设置完了之后，左侧会出现 XZHealthDemo.entitlements。如下图： 3...

1 条评论您还未登录，请先登录后发表或查看评论

iOS 解决floatValue，doubleValue等计算不精确问题，一句话解决精确计算，精确比较

10-15

iOS 解决字符串floatValue，doubleValue等后计算不精确问题，一句话解决精确计算，精确比较

iOS double类型精度问题以及计算问题

天行健，君子以自强不息

01-22

3957

当设计到金钱的计算.但是利用double类型数据会不稳定. 1:控制double类型的精度 double abc = 0.1 - 0.01 - 0.00001009; NSNumberFormatter *nf = [[NSNumberFormatteralloc ]init]; [nf setMaximumIntegerDigits:8]; NSNu

ios long转float_详解iOS之关于double/float数据计算精度问题

weixin_39612057的博客

12-23

229

1、我们的app有一个判断，当用户输入的值，小于等于剩余的余额时，给用户弹窗，代码不往下执行当用户输入 0.01 时，po 一下的结果是：0.10000.... ，当用户的余额是0.01时，po一下网络请求的返回结果是：0.009999...当用户输入 66.05时，po 一下的结果是：66.049999...，当用户的余额是66.05时，po一下网络请求的返回结果是：66.049999...所...

[iOS]处理处理浮点类型精度丢失问题

Gamin

12-31

1442

如图，网络请求返回的浮点数精度丢失，直接展示肯定是有问题的。使用时保留两位小数并去掉末尾的0 + (NSString *)dealwithJDDSWithFloat:(float)number { NSString *jqStr = [NSString stringWithFormat:@"%.2f",number]; NSString *newStr = [NSString...

iOS（swift0 string,Int,Double，Float相互转换

baidu_40537062的博客

11-12

896

swift string,Int,Double相互转换

大数据-数仓-数据采集-业务数据（二）：全量同步采集【MySQL＜--＞DataX(全量)＜--＞HDFS】【每日全量：每天都将业务数据库中全部数据同步到数据仓库，是保证两侧数据同步的最简单方式】

u013250861的博客

04-09

617

1.种类繁多的数据同步工具中，大致可以分为两大类：① 基于Select查询的离线、批量同步工具，代表：DataXSqoop；② 基于数据库数据变更日志（mysql的binlog）的实时流式同步工具，代表：Maxwell、Canal；2.上述同步工具的全量或增量同步适用如下：同步类型DataXSqoopMaxwellCanal全量同步Ö增量同步ÖÖ3.同步工具之间对增量同步不同方案的对比对比增量同步方案DataXSqoopMaxwellCanal对数据库的要求。

win10 环境进行 python + pytorch + yolov8 + tensorRT( c++版 ) 测试过程记录

heshiyuan1406146854的博客

07-26

1408

上述只是自己好奇自己测试玩一下，正规的方式还是看官方文档，官方文档上应该提供了 tensorRT、cuda 的用法，例如提供了标准的 CMakeLists.txt 文件或者 .sln、.vcxproj 文件，这些文件中都有信息说明应该包含什么头文件目录和链接库文件目录，只不过具体的语法不通而已罢了，这样转换为纯 cl 编译语句也不用使用Everything 搜索的方式一个一个试了。其实也可以一个一个删除看是否报错，估计最后剩下来的也是 nvinfer.lib、 cudart.lib 这两个库文件不能删。

double与float的转换

best_scenery的博客

03-18

1万+

分析一次double强转float的翻车原因 float有效位：最多可表示24个二进制位,224=223+223-1=16777215 在表示整数时，当整数部分的位数大于24时，就会出现整数截断的现象，所以作者的83459338在存储位float,再取出时会成为83459336的现象。待表示的数值，不论小数还是整数，有效位数在0-16777215之间的都不会发生截断，可正确表示，大于16777...

MySQL拾遗之浮点类型(float和double)

爱喝水的qdy的博客

12-17

360

在 MySQL 中，有一条忠告，就是「不要使用浮点类型，不要使用浮点类型，不要使用浮点类型」，如果真要使用，那么也请使用 DECIMAL 类型。为什么呢？因为浮点类型的值是「近似」精度，而且，因为它们都有使用 4 或 8 字节存储，而会带来另一些往往想不到的雪上加霜的问题。近似值的浮点类型 浮点数有时会引起混淆，因为它们存储的是近似值而不是精确值，这就可能直接导致了在 SQL...

iOS Double/Float 类型的数据计算精度问题

生活一地鸡毛

04-03

2470

问题：在iOS开发中，我们会经常碰到使用浮点型接收后台返回的数据，这个时候往往就会遇到精度转换问题，尤其是在开发金融类APP的时候：解决：使用 NSDecimalNumber 将float/double数据转化成NSDecimalNumber 类型的对象进行 +、-、*、/ 运算。 -(double)decimalNumber:(double)num1 num2:(double)num2 ...

iOS 如何正确输出double、float、 long double类型的数据

LGSC的IOS学习之路专栏

02-27

2694

要求传入的数据类型为long double，那么输出这种类型的数据要用%Lf的方式要求传入的数据类型为double，那么输出这种类型的数据要用%f的方式要求传入的数据类型为float，那么输出这种类型的数据要用lf的方式当需要保留几位小数时依然跟以前一样加个%.2Lf即可...

iOS 浮点数精确计算(数据处理)

Mr_tangIT的博客

09-05

1691

有时候我们需要精确计算小数，比如精确计算金额，或者需要高精度计算一些数值等，使用系统默认的Float，Double，CGFloat等类型计算是不准确的。我们需要使用系统提供的类NSDecimalNumber进行计算。 // 精确小数点计算 NSString *num1 = @"1.99999999999"; NSString *num2 = @"0.00000000001"; N...

深入浅出iOS浮点数精度问题 (上)

yangxiaohei1234的博客

09-06

1808

iOS 浮点数 精度丢失 doubleValue floatValue NSString iEEE

iOS中处理计算精度要求很高的数据

骑马走天涯的博客

07-05

7471

举个栗子：计算0.1*999999 看看会有什么结果？ - (void)testDecimalNumber { double d1 = 0.01; double d2 = 999999; double d3 = d1 * d2; NSLog(@"%@",n3); }结果：和我们想到的结果：9999.99不同遇到这种问题解决办法如下：- (void

float与double类型区别比较

最新发布

03-25

<think>嗯，用户让我详细解释他们的CMakeLists.txt文件，特别是用于构建LVGL项目的。我需要先通读他们提供的CMake配置，然后逐步解释每个部分的作用。首先，我应该从整体结构开始，分块解析每个指令和设置。用户可能不太熟悉CMake的语法，所以需要解释每个命令的功能。比如cmake_minimum_required是用来指定CMake的最低版本，这能确保兼容性。然后project(lvgl)定义项目名称，这会影响到变量如PROJECT_SOURCE_DIR。接下来设置C和C++的标准，因为LVGL要求C99及以上，而C++17可能是项目中的其他部分需要的。然后注意到用户设置了EXECUTABLE_OUTPUT_PATH到bin目录，这样生成的可执行文件会集中管理。add_subdirectory添加子项目，比如lv_100ask_xz_ai和lvgl，这可能是第三方库或模块。target_include_directories可能用于指定头文件路径，确保编译器能找到所需的头文件。接下来是添加可执行文件main，并链接多个库，包括LVGL相关的库、SDL2、图像库、libdrm等。这里需要解释每个库的作用，比如SDL2处理显示和输入，libdrm可能与Linux的DRM驱动相关。最后，add_custom_target创建了一个自定义目标run，方便用户直接运行编译后的程序。用户可能想知道每个步骤的必要性，以及如何根据他们的项目进行调整。比如是否需要所有依赖库，或者如何添加新的源文件。此外，可能存在潜在问题，比如依赖库是否正确安装，路径是否正确，或者链接顺序是否影响构建结果。需要提醒用户注意这些方面，并提供可能的解决方案或检查步骤。在解释过程中，还要注意用户可能的误区，比如为什么需要设置C标准，或者为什么某些库需要显式链接。同时，确保使用简单明了的中文，避免技术术语过于晦涩。最后，总结整个配置的作用，帮助用户整体理解CMakeLists.txt的结构和功能。</think>以下是对该CMake配置文件的逐层解析：一、基础配置层 1. 版本声明 $$ cmake_minimum_required(VERSION 3.10) $$ • 强制要求CMake最低版本为3.10，确保兼容性 • 当版本不满足时会报错终止 2. 项目定义 $$ project(lvgl) $$ • 声明项目名称为"lvgl" • 自动生成相关变量：$\text{PROJECT\_SOURCE\_DIR}$, $\text{PROJECT\_BINARY\_DIR}$ 二、编译标准设置 ```cmake set(CMAKE_C_STANDARD 99) # 强制使用C99标准 set(CMAKE_CXX_STANDARD 17) # 强制使用C++17标准 set(CMAKE_CXX_STANDARD_REQUIRED ON) # 必须满足指定标准 ``` • LVGL官方要求C99及以上标准 • C++17标准可能用于项目中的C++组件三、输出目录配置 ```cmake set(EXECUTABLE_OUTPUT_PATH ${PROJECT_SOURCE_DIR}/bin) ``` • 将可执行文件输出到项目根目录的bin文件夹 • 保持构建目录整洁，便于部署四、子模块集成 ```cmake add_subdirectory(lv_100ask_xz_ai) # 添加自定义模块 add_subdirectory(lvgl) # 添加LVGL核心库 ``` • 假设存在lvgl和lv_100ask_xz_ai子目录 • 子目录需包含各自的CMakeLists.txt 五、可执行文件配置 ```cmake add_executable(main main.c mouse_cursor_icon.c) ``` • 创建名为main的可执行文件 • 包含两个源文件：main.c和mouse_cursor_icon.c 六、依赖管理 1. 图形库配置 ```cmake include(${CMAKE_CURRENT_LIST_DIR}/lvgl/tests/FindLibDRM.cmake) find_package(SDL2) find_package(SDL2_image) ``` • 引入LibDRM查找脚本 • 查找SDL2和SDL2_image库 2. 包含目录 ```cmake include_directories(${Libdrm_INCLUDE_DIRS} ${CMAKE_SOURCE_DIR}/lv_100ask_xz_ai ${SDL2_INCLUDE_DIRS} ${SDL2_IMAGE_INCLUDE_DIRS}) ``` • 添加DRM、自定义模块、SDL2相关头文件路径七、链接配置 ```cmake target_link_libraries(main lv_100ask_xz_ai lvgl lvgl::examples lvgl::demos lvgl::thorvg ${SDL2_LIBRARIES} ${SDL2_IMAGE_LIBRARIES} ${Libdrm_LIBRARIES} m pthread freetype png) ``` • 链接顺序敏感：基础库在前，依赖库在后 • 包含： - LVGL核心库及其组件 - SDL2多媒体库 - Linux DRM图形驱动库 - 数学库(m)、线程库(pthread) - 字体渲染库(freetype) - PNG图像处理库八、自定义目标 ```cmake add_custom_target(run COMMAND ${EXECUTABLE_OUTPUT_PATH}/lv_xiaozhiui DEPENDS main) ``` • 创建名为run的伪目标 • 编译后自动执行生成的可执行文件 • 需先构建main目标九、潜在问题与建议 1. 路径问题： - 确保lvgl和lv_100ask_xz_ai子目录存在 - 检查FindLibDRM.cmake是否存在指定路径 2. 依赖管理： - 需提前安装SDL2、SDL2_image、libdrm等开发包 - 建议使用find_package()的REQUIRED参数确保依赖 3. 版本兼容性： - 确认LVGL版本与C99标准的兼容性 - 检查SDL2版本是否满足项目需求 4. 扩展建议： - 添加install()指令实现安装规则 - 使用target_compile_options()优化编译选项 - 考虑添加交叉编译支持该配置展示了一个典型的嵌入式GUI应用构建方案，结合了LVGL核心库、硬件加速驱动和跨平台多媒体库，适用于需要图形界面且对性能有要求的嵌入式场景。