字符串转double、float不精确解决办法

最新推荐文章于 2024-06-21 14:36:00 发布
原创 最新推荐文章于 2024-06-21 14:36:00 发布 · 2.7k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#字符串 #精确计算 iOS floatValue

本文介绍如何使用NSDecimalNumber进行精确的数学运算，包括加减乘除操作，并提供了一个简单的封装来简化这些过程。

1、NSDecimalNumber decimalNumberWithString: 生成NSDecimalNumber进行精确计算

[NSDecimalNumberdecimalNumberWithDecimal:[[NSNumbernumberWithInt:1]decimalValue]];由基本类型转为NSDecimalNumber；


2、 decimalNumberByAdding: +

     decimalNumberBySubtracting-

decimalNumberByMultiplyingBy: *

decimalNumberByDividingBy:/

compare: 比较


3、本人封装一个NSDecimalNumber类扩展，一句话解决精确计算，精确比较http://download.youkuaiyun.com/detail/null_nil/9323229

iOS 解决floatValue，doubleValue等计算不精确问题，一句话解决精确计算，精确比较
10-15
5. **利用String的`floatValue`和`doubleValue`**：虽然`floatValue`和`doubleValue`在计算时可能出现不精确，但在将字符串转换为浮点数时，它们可以提供精确的转换。例如，从用户输入或者配置文件中读取浮点数时，...
基于C++浮点数(float、double)类型数据比较与转换的详解
09-05
当我们使用`atof()`函数将字符串转换为`float`或`double`时，可能会遇到精度损失问题。例如，将字符串"8.2"转换为`float`时，结果为8.1999998，而转换为`double`时，结果为8.1999999999999993。这是因为浮点数在...
关于String转Double后计算值出错的问题解决
wuzengwen18914044177的博客
01-26 7234
在做String转Double后一般的加减乘除都能得到正确结果有个别会出现偏差，比如： String s1="0.21"; String s2="0.02"; double sum = Double.valueOf(s1)+Double.valueOf(s2); 或者 double d1=0.21; double d2=0.02; double sum = d1+d2; 得到的su
Js中string转float出现精度问题
weixin_33772645的博客
11-20 847
2019独角兽企业重金招聘Python工程师标准>>> ...
string与float之间转换、精度
cpf2016的专栏
01-04 1万+
（1）float转换为string               直接+‘’ var num = 3.14159+''; （2）string转换为 float             使用parseFloat方法 var num = "3.14159"; x.innerHTML=parseFloat(num); （3）float保存2位小数             使用toFix(
读取ini配置文件的Qtring转化为float精度丢失解决方案
weixin_58663339的博客
03-14 472
Qt中的类型转换
String to Double出现误差
weixin_30758821的博客
06-04 556
场景描述 做实际项目的时候，由于使用Double类的valueOf得到一个用String类型保存的金额参数（单位为元），当需要转换成以分为单位即整形表示（Integer类表示）时，需要用之前得到的double数据乘以100，强制将它转换成int类型的数据。可是结果可能会出现一分钱的误差，这会是一个很大的bug，以下模拟了问题的现象以及提出了解决问题的办法。 1、将String类型的数据用Dou...
【防止精度丢失】：Java字符串转double的常见问题与解决策略
在Java中，字符串到double类型转换是一个常见的数据处理需求，但这一过程不仅仅是一个简单的数据类型转换。理解Java中的双精度浮点数（double）与字符串之间的转换机制对于避免常见的数据精度问题至关重要。双精度...
Python字符串转Float实战指南：解决常见错误，优化转换过程
[Python字符串转Float实战指南：解决常见错误，优化转换过程](https://img-blog.csdnimg.cn/20200725221826229.PNG?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG...
精选资源
double_to_float_converter：将c ++源文件从double转换为float
02-20
项目的源码可能涉及到文件读写、字符串解析、用户输入处理以及错误处理等多方面的C++编程技巧。 在实际使用此工具时，开发者应根据具体需求选择合适的转换方法，同时考虑到潜在的精度、溢出和效率问题。此外，如果...
Float Convert delphi浮点数转换成字符串..rar
05-02
Float Convert delphi浮点数转换成字符串..rar
Qt-关于QString转换为浮点值的精度丢失解决方法
weixin_44824642的博客
06-21 1333
遇到问题很正常，慢慢就解决了。
字符串转换为float<1>
weixin_30949361的博客
09-11 262
zjtest7-frontend:/usr/local/logstash-2.3.4/config# cat g01.conf input {stdin{}} filter { grok { match => { "message" =>"\s+(?<request_time>\d+(?:\.\d+)?)\s+" } ...
c++字符串浮点数转化
霜叶的博客
08-27 5240
atof()： 把字符串转换为atoi()：函数用来将字符串转换成整数(int)atol()：把参数所指向的字符串转换为一个长整数c++中的定义。
OC 字符串类型和基本数据类型的转换
same_life的博客
04-08 1635
1、字符串类型转换为其他类型 @property (readonly) double doubleValue; @property (readonly) float floatValue; @property (readonly) int intValue; @property (readonly) NSInteger integerValue @property (readonly) long long longLongValue @property (readonly) BOOL boolValue
JAVA中 浮点数精度问题、字符串引起的转换问题、自动类型转换引发的问题
m0_73818374的博客
12-14 568
这两个问题出现的原因都取决于float类型变量的性质，float变量能表示的数是离散的，有舍入误差，它表示的是一个约数，接近但不等于，所以在第一段代码中，num1不等于num2。而第二次输出30，是由于String类型的变量出现在a+b的后面，则会先进行a+b的运算，再将a+b的结果转换为String类型并于后面的String变量连接再输出。出现这种结果的原因是：只要输出的前面出现了类型为String的变量，”+“就会变成连接符，在将后面的变量都转换为String类型后，直接连接并输出。
数字与字符串相互转换，进制相互转换，浮点型为什么会丢失精度（打印浮点型数字与预期不一致）
computer408的博客
01-24 1068
1字符串转数字 String s = "123"; byte b = Byte.parseByte(s); short t = Short.parseShort(s); int i = Integer.parseInt(s); long l = Long.parseLong(s); Float f = Float.parseFloat(s); Double d = Double.parseDouble(s); boolean bo = Boolean.parseBoolean(s); char c =
字符串转换为浮点数时如何避免精度损失
GeoPhoenix的专栏
08-09 1万+
字符串转换为浮点数的函数，标准C提供的函数是atof(char *)，C++ Builder 提供了一个函数 StrToFloat(AnsiString *)，但是如果你直接定义一个浮点数变量，将字符串转换为单精度浮点数的话，很容易出问题，出现精度误差，下面给出一个简单的例子 char *strDemo ="0.00100"; float fDat; fDat = atof(strDemo)
String转double失去精度问题
热门推荐
老四的博客
07-21 2万+
最近遇到一个坑，19.9的字符串转double变成19.89，坑死我了。现在把更改后的代码贴出来 String s = "19.9"; BigDecimal temp = BigDecimal.valueOf(Double.valueOf(s)); // 将temp乘以100 temp = temp.multiply(BigDecimal.valueOf(100)); int sum = te...
sqlserver 字符串转double
最新发布
08-26
在 SQL Server 中，将字符串转换为 `double` 类型（在 SQL Server 中通常使用 `FLOAT` 或 `REAL` 数据类型表示浮点数）可以通过内置的转换函数实现。以下是几种常用的方法： ### 使用 `CAST` 函数 `CAST` 是 SQL Server 中用于显式转换数据类型的函数之一。它可以将一个表达式从一种数据类型转换为另一种数据类型。 ```sql SELECT CAST('123.45' AS FLOAT) AS ConvertedValue; ``` ### 使用 `CONVERT` 函数 `CONVERT` 函数提供了更多的格式化选项，尤其适用于日期和时间类型的转换，但对于数值类型的转换也非常有效。 ```sql SELECT CONVERT(FLOAT, '123.45') AS ConvertedValue; ``` ### 使用 `TRY_CAST` 函数（SQL Server 2012 及以上版本） `TRY_CAST` 是一种安全的转换方式，如果转换失败，则返回 `NULL` 而不是引发错误。 ```sql SELECT TRY_CAST('123.45' AS FLOAT) AS ConvertedValue; ``` ### 使用 `TRY_CONVERT` 函数（SQL Server 2012 及以上版本） 类似于 `TRY_CAST`，`TRY_CONVERT` 也提供了一种安全的转换机制，适用于更复杂的转换场景。 ```sql SELECT TRY_CONVERT(FLOAT, '123.45') AS ConvertedValue; ``` ### 注意事项 - **无效输入处理**：如果字符串包含非数字字符（如 `'abc'`），则 `CAST` 和 `CONVERT` 会抛出错误，而 `TRY_CAST` 和 `TRY_CONVERT` 会返回 `NULL`。 - **精度问题**：`FLOAT` 和 `REAL` 类型是近似数值类型，可能会导致精度丢失。如果需要精确的数值表示，建议使用 `DECIMAL` 或 `NUMERIC` 类型。 ### 示例代码 ```sql -- 使用 CAST SELECT CAST('123.45' AS FLOAT) AS CastResult; -- 使用 CONVERT SELECT CONVERT(FLOAT, '123.45') AS ConvertResult; -- 使用 TRY_CAST SELECT TRY_CAST('123.45' AS FLOAT) AS TryCastResult; -- 使用 TRY_CONVERT SELECT TRY_CONVERT(FLOAT, '123.45') AS TryConvertResult; -- 处理无效输入 SELECT TRY_CAST('abc' AS FLOAT) AS InvalidInputResult; ``` ### SQL Server 数据类型与 C# 类型映射 在 SQL Server 中，`FLOAT` 类型通常对应于 C# 中的 `double` 类型，而 `REAL` 类型则对应于 `float` 类型。可以参考以下映射表进行类型转换： | SQL Server 类型 | C# 类型 | |------------------|-------------| | FLOAT | double | | REAL | float | 如果需要将 SQL Server 查询结果直接映射到 C# 对象，确保在 C# 中使用正确的类型以避免运行时错误或数据丢失 [^2]。 ---
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值