double.ToString() 与 "NaN" 比较的问题

最新推荐文章于 2023-10-24 09:56:29 发布
原创 最新推荐文章于 2023-10-24 09:56:29 发布 · 1.1k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#C# #bug

本文介绍了一个在使用Wind数据接口获取数据时遇到的问题：如何正确处理返回的double类型数据中的null和NaN值。文章详细解释了为何直接通过字符串比较判断NaN不可靠，并给出了一个跨平台的解决方案。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

开发程序的时候遇到一个奇怪的问题。

从Wind取数据的时候，返回的是装好箱的double类型的数据。

由于Wind返回的数据存在null和NaN(对double来说)的情况，需要对数据进行清洗。


第一版程序的判断方式如下，

数据.ToString() == "NaN"    //此处数据为object{double}


发现在有些机器下可以进行有效判断，有些机器下无法判断。


原因是

在有些机器中，数据.ToString()返回的是"非数字"而不是我以为的"NaN"！！！ 所以判断无法成功。


正确的写法应该是，

Double.IsNaN((double)数据)


luckycat1
关注
小心double的比较
黄腾霄的博客
02-03 670
对于double的比较，存在一些可能的坑，大家应该都清楚。比如容易注意的是double==double的精度问题。但是比较少注意的是double.NaN的比较 我们先看一个demo public static void Main() { Console.WriteLine("NaN == NaN: {0}", Double.NaN == Double.NaN); ...
重新实现.NET Core的 double.ToString()
mjyfadeaway的专栏
09-26 784
目前C#中double.ToString()的问题.NET Core 2.0发布后，整个框架的性能提升了不少。但是仍然有一些基础数据类型的性能不尽入人意，例如double.ToString(). 本文讲解如何一步一步重新实现double.ToString().
数组操作 toString()
宝码香车的博客
06-11 1486
toString() 方法可把一个逻辑值转换为字符串，并返回结果，根据原始布尔值或者 booleanObject 对象的值返回字符串 "true" 或 "false"返回：arrayObject 的字符串。返回值与没有参数的 join() 方法返回的字符串相同。 原数组：不改变。作用：把数组转换为字符串，并返回结果。语法：arrayObject.toString()说明：当数组用于字符串环境时，J...
Double里边的NaN是什么？
Morning Sunshine的IT技术博客
05-25 8071
先看源码： /** * A constant holding a Not-a-Number (NaN) value of type * {@code double}. It is equivalent to the value returned by * {@code Double.longBitsToDouble(0x7ff8000000000000L)}. */ public static final double NaN = 0.0d / 0.0; 翻译过来： NaN是...
Tostring 的用法
weixin_30376163的博客
02-23 428
Tostring toString()方法返回反映这个对象的字符串 因为toString方法是Object里面已经有了的方法，而所有类都是继承Object，所以“所有对象都有这个方法”。 它通常只是为了方便输出，比如System.out.println(xx)，括号里面的“xx”如果不是String类型的话，就自动调用xx的toString()方法 总而言之，它只是sun公司开...
javascript中toString()方法
anneCoder的博客
03-30 1186
【1】undefined和null没有toString()方法 undefined.toString();//错误 null.toString();//错误 【2】布尔型数据true和false返回对应的’true’和’false’ true.toString();//'true' false.toString();//'false' Boolean.toString();//"func...
private void button1_Click(object sender, EventArgs e) { int wz = pathname.LastIndexOf(@"\"); string pathsjtxt = pathname.Substring(0, wz + 1);//pathsjtxt是数据表路径的意思 StreamReader sr1 = new StreamReader(pathsjtxt + @"\初始数据.txt"); string strs1 = ""; while ((strs1 = sr1.ReadLine()) != null) { string[] str = strs1.Split(','); if (str[0].ToString() == "Q") { Q = double.Parse(str[1]); } if (str[0].ToString() == "H") { H = double.Parse(str[1]); } if (str[0].ToString() == "hs") { hs = double.Parse(str[1]); } if (str[0].ToString() == "b") { b = double.Parse(str[1]); } if (str[0].ToString() == "m1") { m1 = double.Parse(str[1]); } if (str[0].ToString() == "V") { V = double.Parse(str[1]); } if (str[0].ToString() == "g") { g = double.Parse(str[1]); } if (str[0].ToString() == "m") { m = double.Parse(str[1]); } } sr1.Close(); double bs = 8; N = double.Parse(textBox1.Text); const double step = 0.1;// B0每次增加0.1 const double tolerance = 1e-6;// 函数相等容差 const double maxB0 = 10000.0;// B0最大值 const double minB0 = 0;// B0最小值 double B0 = step;//从0.1开始（避免除零错误） bool solutionFound = false; double solution = double.NaN; if (textBox1.Text == "1") { while (B0 <= maxB0 && B0 >= minB0) { b0 = B0 / N; σ = Math.Round((2.31) * hs / H0 * Math.Pow((1 - hs / H0), 0.4), 3); H0 = Math.Round(H + Math.Pow(V, 2) / 2 / g, 3); double fValue = 1 - 0.171 * (1 - b0 / bs) * Math.Pow(b0 / bs, 1 / 4); double gValue = Q / (B0 * σ * m * Math.Sqrt(2 * g) * Math.Pow(H0, 3 / 2)); // 检查函数值是否在容差范围内相等 if (Math.Abs(fValue - gValue) < tolerance) { solution = B0; solutionFound = true; break; } B0 += step; B0 = Math.Round(B0, 2); // 处理浮点精度问题 } } WriteToSpecificPosition(pathsjtxt + @"\初始数据.txt", 19, 2, B0.ToString()); ε = 1 - 0.171 * (1 - b0 / bs) * Math.Pow(b0 / bs, 1 / 4); WriteToSpecificPosition(pathsjtxt + @"\初始数据.txt", 13, 2, ε.ToString()); MessageBox.Show("计算完成"); }以上代码求B0值有什么问题吗
最新发布
07-23
double solution = double.NaN; if (textBox1.Text == "1") { while (B0 <= maxB0 && B0 >= minB0) { b0 = B0 / N; σ = Math.Round((2.31) * hs / H0 * Math.Pow((1 - hs / H0), 0.4), 3); H0 = Math.Round(H ...
private static double floatToDouble(float val) { try { // 数据最长为4位 return new BigDecimal(Float.toString(val)).setScale(4, RoundingMode.HALF_DOWN).doubleValue(); } catch (NumberFormatException ex) { DebugLog.error("floatToDouble error, ex={}", ex.getMessage()); return Double.NaN; } } 这个方法会导致Float.MAX_VALUE损失精度吗
06-24
//比较原始floatMax转换为double和转换后的值System.out.println("Originalfloat:"+floatMax);System.out.println("Converteddouble:"+converted);System.out.println("Equal?"+((double)floatMax==converted));//...
conn.Open(); OleDbDataAdapter adapter = new OleDbDataAdapter("SELECT sum_count, pass_count, fail_count FROM test_result", conn); DataTable dt = new DataTable(); adapter.Fill(dt); conn.Close(); if (dt.Rows.Count > 0) { totalCount = Convert.ToInt32(dt.Rows[0]["sum_count"]); okCount = Convert.ToInt32(dt.Rows[0]["pass_count"]); ngCount = Convert.ToInt32(dt.Rows[0]["fail_count"]); double passRate = (double)okCount / totalCount; txt_passrate.Text = passRate.ToString("P2"); //passRate = Convert.ToInt32(dt.Rows[0]["pass_rate"]); txt_sumcount.Text = " " + totalCount.ToString(); txt_passcount.Text = " " + okCount.ToString(); txt_failcount.Text = " " + ngCount.ToString(); //txt_passrate.Text = " " + passRate.ToString(); },以上代码中，当okcount,ngcount,totalcount数据都清零时，下次打开软件，txt_passrate.Text组件显示NAN，怎么让它显示0%
05-15
double passRate = (double)okCount / totalCount; txt_passrate.Text = passRate.ToString("P2"); } txt_sumcount.Text = " " + totalCount.ToString(); txt_passcount.Text = " " + okCount.ToString(); ...
double real = Double.parseDouble(actualValue); double rmsMax = Double.parseDouble(maxValue);
03-21
或者像“NaN”、“Infinity”这样的特殊字符串，虽然Double.parseDouble可以处理它们，但可能需要特别处理，视业务需求而定。</think>--- ### **代码风险分析** 您提供的代码存在以下潜在风险： ```java double ...
[Java]NaN与NaN比较是否相等
shichimiyasatone的博客
12-14 4842
产生值为NaN的double类型变量d1和Double类型变量d2，使用==、equals()进行比较，结果如注释： double d1 = 0.0/0.0; Double d2 = 0.0/0.0; System.out.println(d1 == d1);//false System.out.println(d2.equals(d1));//true 当d1与自身进行==比较时判断为f...
禁止与NaN进行比较运算
weixin_44785193的博客
09-10 1153
禁止与NaN进行比较运算 禁止与NaN进行比较运算，相等操作使用Double或者Float的isNaN 方法 解释 NaN（not a number，非数值）是无序的 当一个或者两个操作数是NaN时，数值比较符<,<=,>,>=会返回false 当任意一个操作数是NaN，==运算符会返回false 当任意一个操作数是NaN，！=运算符会返回true 因为无序的特性常常会导致意外结果，所以不能直接和NaN进行比较 ...
Double类型出现的nan问题
Bruce
06-18 1729
我遇到的就是最后一种，未对double类型初始化，其在内存里的存值就是一个nan， 在之后的计算过程中返回的结果也都是nan。原文链接：https://blog.csdn.net/hybohehe/article/details/121478243。//假如a此时在栈空间的存储就是无法表示的数值，其之后的运算结果也为nan。//由于a为nan，b的结果也会为nan。nan的意思是“Not a Number”，不是一个数值，或者无法表示的数值。d. 未对double类型初始化，使用的时候就是nan。
关于Double中的NaN问题
记录点点滴滴的成长。
10-24 945
其中红框部分，是抛出的异常，条件为Double无穷大或NaN，以前对Double的认识停留在浅薄的表面，遇到问题，才发现还有这两种情况。Double提供了判断两种情况的方式，还有其他的判断方法，有兴趣的可以自己查阅。最近在写代码时，因为涉及到计算，当时用了Double作为返回值，后续转成BigDecimal，但在测试过程中，发现有事会报异常：NumberFormatException：Infinite or NaN。1.可以用加入对NaN的判断。
C# dotnet 在内存中的 double 的 NAN 和正负无穷二进制是如何存
lindexi
06-13 1735
我就好奇无穷大和 NAN 在 C# 的二进制是如何表示的 揭开谜底 NAN: 00,00,00,00,00,00,F8,FF 正无穷 PositiveInfinity : 00,00,00,00,00,00,F0,7F 负无穷 NegativeInfinity : 00,00,00,00,00,00,F0,FF 测试方法如下 static void Main(string[]...
C#中ToString()格式详解
天外有天，人外有人。 专注品质 不断创新 让精益求精成为习惯
05-20 1万+
以下内容均摘自博客园，仅供资料查询。 ToString格式化 在很多对象显示为字符串的时候都会使用到ToString中的格式化，由于以前没怎么注意到这个问题，想总结一下各个基础结构对象的格式化，以便后备之用！！！ Int.ToString(format): 格式字符串采用以下形式：Axx，其中 A 为格式说明符，指定格式化类型，xx 为精度说明符，控制格式化输出的有效位数或小数位数，具体如下： 格式说明符 说明 示例 输出 C 货币 2.5.ToString("C".
NaN运算总结
dayun555的博客
11-29 2622
NaN  是一个特殊的数字，表示not A number         使用typeof检查一个NaN也会返回number 任何值和NaN做比较都是false 任何数和NaN做运算，结果都为NaN  NaN不和任何值相等，包括它本身   ...
java中Double类型判断值是否为NaN的四种方法
热门推荐
weixin_44130081的博客
05-14 2万+
java中Double类型判断值是否为NaN的四种方法 在java连接MongoDB数据库中用Double接收值时，发现部分数据到前端展示是NaN,需要对这部分数据进行处理，但是一下子想不到Double类型的值是NaN应该怎么判断。 NaN定义 NaN在Double的类中定义NaN = 0.0d / 0.0 public static final double NaN = 0.0d / 0.0; ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值