解决两个float类型的数值相减，精确度不准确的问题

浮点数相减精度问题解决方案
最新推荐文章于 2024-02-18 12:00:00 发布
最新推荐文章于 2024-02-18 12:00:00 发布
阅读量1.1w 收藏 1
点赞数
CC 4.0 BY-SA版权
分类专栏： android 文章标签： Java float 精确度
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/sunshine5234/article/details/70170741
本文介绍了一种处理浮点数相减时出现精度偏差的方法，通过将浮点数转换为字符串并移除小数点，进一步转化为整型进行计算，最终返回一个精确的差值。

工作中经常会遇到两个float类型的数值相减，这时候精确度会出现偏差，网上也会有一些方法，但是还是会有误差，这就让人很头疼了；别急，还是有办法解决的，哈哈！

1：可以先把float类型的数值转化为保留两位小数的字符串，

2：获取小数点的位置，把小数点去掉；

3：之后把两个字符串转化为int类型，进行相减

4：如果所得值是负值，就在负号之后加上0，确保相减之后的字符串长度在4位；如果所得值是正值，就确保字符串长度为3位；

5：最后把小说点加上，再转化为double类型即可；

public static double subtract(double d1,double d2){
        String n1 = StringUtil.onPrice(d1);
        String n2 = StringUtil.onPrice(d2);
        int n1Index = n1.lastIndexOf(".");
        int n2Index = n2.lastIndexOf(".");
        double result= 0;
        if(n1Index != -1 && n2Index != -2) {
            int f1Count = n1.length() - (n1Index + 1);
            int f2Count = n2.length() - (n2Index + 1);
            n1 = n1.replace(".", "");
            n2 = n2.replace(".", "");
            if (f1Count == 1) {
                n1 += "0";
            }
            if (f2Count == 1) {
                n2 += "0";
            }
            int price1 = StringUtil.StrToInt(n1);
            int price2 = StringUtil.StrToInt(n2);
            String resultResult = String.valueOf(price1 - price2);
            if ((price1 - price2) < 0){
                if (resultResult.length() == 3){
                    resultResult = resultResult.substring(0,resultResult.length()-2)+"0"+resultResult.substring(resultResult.length()-2);
                }else if (resultResult.length() == 2){
                    resultResult = resultResult.substring(0,resultResult.length()-1)+"00"+resultResult.substring(resultResult.length()-1);
                }
            }
            if (resultResult.length() == 2){
                resultResult = "0" + resultResult;
            }else if (resultResult.length() == 1){
                resultResult = "00" + resultResult;
            }
            resultResult = resultResult.substring(0, resultResult.length() - 2) + "." + resultResult.substring(resultResult.length() - 2);
            result= StringUtil.StrToDouble(resultResult);
        }
        return result;
    }

Python学习笔记 - 探索5种数据类型
Mr数据杨
05-14 1587
数据类型是Python编程的基础，它决定了如何存储和操作数据。本文详细探讨了Python中的5种数据类型，包括基本操作和高级应用。概述了每种数据类型的基础特性和用途，例如整数用于数值计算，字符串用于文本处理。通过实例详细解释了如何在不同的编程场景中使用这些数据类型。除此之外还涵盖了数据类型与其他编程元素（如变量和函数）的关系，以及如何进行数据类型的转换和处理。这里为读者提供了全面而详细的Python数据类型使用指南。从基础概念到高级技巧，都能在这里找到详细的解释和示例。
再也不被时间束缚：C++ stdchrono时间库全面解析
Lion_Long的博客
10-22 1332
这是一篇介绍C++ std::chrono时间库的全面文章。在现代软件开发中，时间处理是一个重要的部分，而std::chrono时间库提供了丰富的功能和灵活的接口来处理时间相关的操作，使得开发者能够更好地控制和管理时间。 本文首先介绍了std::chrono时间库的核心概念，包括时钟、时间点和时间间隔。其中，时钟作为时间的源头，提供了基准和刻度；时间点表示特定时钟上的一个时间；时间间隔表示一段时间的表示。
float类型相减精度问题
世俗的博客
12-16 419
BigDecimal b1 = new BigDecimal(Float.toString(100f)); BigDecimal b2 = new BigDecimal(Float.toString((beicuokoufen + tishikoufen + chongbeikoufen + yongshikoufen))); score = b1.subtract(b2).floatValue();
关于float相减精度丢失的问题
u010897392的专栏
07-16 3409
做项目的时候用到float想减发现结果居然是
float计算丢精度_浮点型数据丢失精度的原因
weixin_28695537的博客
02-01 1249
ackage test1;public class Test2 {/*** @param args*/public static void main(String[] args) {Float xx = 2.0f;Float yy = 1.8f;Float tt = xx - yy;System.out.println("tttttt-----" + tt);}}果然输出结果是: tttttt--...
浮点数的加减计算总结
热门推荐
Bing's Blog
09-22 1万+
首先要说的是：浮点运算中的下溢指的是：运算结果的绝对值小于机器数所能表示的最小绝对值。再看告知浮点数的格式，最大值问题： 设浮点数共12位，其中阶码含1位阶符共4位，以2为底，补码表示。尾数含一位数符共8位，补码表示，规格化。该浮点数所能表示的最大正数是？解答：首先，我们马上可以构想出补码最大时的样子，因为和原码一样，是0.1111111…1形式。 这里呢，尾数含数符共8位，所以是0.11111
float数据相减出现精度丢失问题
weixin_43434961的博客
08-03 868
今天发现两个float数据相减出现精度丢失问题 float newsw = 150f; float oldsw = 154.4f; float dv = oldsw - newsw; System.out.println(dv); 正常情况下应该输出4.4，结果却输出4.399994，经研究可以改成以下代码解决 float newsw = 150f; float oldsw = 154.4f; BigDecimal newbd = new BigDecimal(Strin
两个float相减 精确度 解决方案
qq_42306844的博客
06-12 789
public static void main(String[] args) { Float x = 15.2f; Float y = 15.0f; Float num= x - y; BigDecimal b1 = new BigDecimal(Float.toString(x)); BigDecimal b2 = new BigDecimal(Float.toString(y)); float value = b1.subtract(b2).floatValue(.
python减法精确度不准是什么问题,聊聊Python中的浮点数运算不准确问题
weixin_31064267的博客
03-26 3286
大家好，老 Amy 来了。之前就意识到一个问题，但是最近又有朋友提出来了，所以就想着干脆记录下来，分享给大家叭~啥问题呢？请看题：也就是说，需要大家计算1.1-1的值，很多朋友会说：“emmm…这还不简单，玩我呢？不就是0.1嘛”但是如果你用 python 去执行一下，会发现结果跟你想的不太一样，如下图：这样大家是不是发现了什么问题？是的，浮点数在运算过程中并没有保证完全精确，是什么原因导致了这种...
整数和高精确度小数相乘
T_P_F的博客
05-31 1097
BigDecimal 一、构造器描述 BigDecimal(int) 创建一个具有参数所指定整数值的对象。 BigDecimal(double) 创建一个具有参数所指定双精度值的对象。 BigDecimal(long) 创建一个具有参数所指定长整数值的对象。 BigDecimal(String) 创建一个具有参数所指定以字符串表示的数值的对象。 二、方法...
【解决（几乎）任何机器学习问题】：处理分类变量篇（上篇）
chen695969的博客
02-18 7535
从0到1掌握分类变量的处理技巧！ 在机器学习领域，正确处理分类变量对于模型预测的准确性至关重要。本文将为你揭开处理分类变量的神秘面纱，为你带来技巧、方法和实践案例，让你迅速提升！💪 🎯 探索独热编码、标签编码以及目标编码等最常用的编码方案，为你深入剖析各种编码方法的优劣和适用场景。 📊 无论你是新手还是有经验的数据科学家，都可以通过我们的案例学习如何运用正确的编码方法提升模型性能。 🛠 了解实践中常见的数据预处理工具与库，节省你的时间成本，让你更专注于模型优化。
PHP里两个相等的float类型的数字相减不等于0，而等于3.5527136788005E-15
心如止水,万事皆成。心态决定我的成功。2013-05-01下定决心。2014-05-11人生的转折点
08-27 3587
场景：现有两个变量：amt，namt都是通过运算后保留2位小数的float数字。 直接上代码： $data = array( array('amt' => 8.1, 'namt' => 8.1), array('amt' => 16.2, 'namt' => 16.2), array('amt' => 24.3, 'n
float类型精度损失问题
小_鱼的专栏
06-10 2574
float范围为： 32 3.4E–038～3.4E+038 double范围为： 64 1.7E–308～1.7E+308 #include     #define EPSILON 0.0001      // Define your own tolerance#define FLOAT_EQ(x,v) (((v - EPSILON) int main()  {      
两个float相减时丢失精度的解决办法
jerry2007_chen的博客
11-07 651
通常我们习惯这么写：        float a = 2.123f;           float b = 1.101f;           System.out.println("a-b=" + (a-b));        运行结果：a-b=1.022 那么这么写呢？        a = 2.1235f;           b = 1.1012f;         ...
两个float类型的数字相加相减
u014645827的博客
12-25 663
加法运算，避免数据相减小数点后产生多位数和计算精度损失。* @param num1被减数 | num2减数。
float在内存中的存储
qq_41628755的博客
09-17 206
以下内容来自于https://www.iteye.com/blog/hxraid-504293 1.十进制转二进制 1.1整数： 11/2=5 余 1 5/2=2 余 1 2/2=1 余 0 1/2=0 余 1 0结束...
java 两个float相减_用Java在一行中比较两个float数组
weixin_42150341的博客
02-23 536
可以使用java.util.Arrays.equals()方法在Java中比较两个float数组。如果数组相等，则此方法返回true，否则返回false。如果两个数组包含相同数量的相同顺序的元素，则它们相等。使用Arrays.equals()方法比较两个浮点数组的程序如下所示-示例importjava.util.Arrays;publicclassDemo{publicstaticvo...
【C++】49.float的精度问题
u011754972的博客
12-16 535
对于float的精度问题,这篇博客【float的精度和取值范围】讲的很清晰。
consol怎么画两个波形图像的差值
最新发布
06-13
<think>我们有两个波形图像，需要绘制它们的差值。差值通常是指两个波形在相同时间点上的数值相减得到的新波形。我们可以考虑两种环境：控制台（文本界面）和图形界面（如WindowsForms、WPF等）。控制台绘制波形差值：由于控制台是文本界面，我们可以使用字符来近似表示波形。但是控制台通常只能按行输出，所以我们可以将时间轴作为横轴（从左到右），幅度作为纵轴（从上到下），用字符的高度来表示幅度值。由于控制台字符的高度大于宽度，所以绘制的波形可能会被拉伸。我们可以将幅度值归一化到控制台可用的行数范围内，然后在每一列上输出一个字符（比如空格）到对应幅度的位置，用另一个字符（比如'*'）表示波形点。图形界面绘制波形差值：图形界面有更多的绘图API，我们可以使用如System.Drawing（WindowsForms）或System.Windows.Media（WPF）来绘制折线图。基本步骤：1.准备数据：两个波形的数据点（假设是时间序列），计算差值序列（对应点相减）。2.创建绘图表面（如PictureBox的Graphics对象，或WPF的Canvas）。3.设置坐标变换，将数据点映射到绘图区域的像素坐标。4.用线条连接这些点，形成波形。根据用户提供的引用，特别是引用[3]中展示了使用Timer控件和Label控件创建动画，我们可以借鉴其绘图方法。但是，这里我们不需要动画，只需要静态绘制。我们可以使用Graphics对象来绘制线条。下面分别给出两种环境的简单示例：控制台环境示例（C#）：假设我们有两个波形数组：wave1和wave2，长度相同。我们计算差值数组diff=wave1[i]-wave2[i]（或者绝对值，根据需求）。然后，我们将差值数组绘制在控制台窗口中。由于控制台窗口的行列限制，我们只能绘制一个简化的版本。图形界面（WindowsForms）示例：我们创建一个窗体，在窗体的Paint事件中绘制波形。我们可以绘制两个原始波形和它们的差值波形，用不同颜色区分。具体实现：控制台绘制：步骤：1.确定控制台窗口的大小（行数和列数）。假设我们使用Console.WindowHeight和Console.WindowWidth。2.将差值数组的值归一化到[0,consoleWindowHeight-1]的范围内（注意控制台坐标原点在左上角，所以可能需要翻转Y轴）。3.对于每个时间点（即数组索引），将其映射到控制台的列，将归一化后的值映射到行，然后在对应的位置输出一个字符。注意：由于控制台同一列只能输出一个字符，所以我们可以创建一个二维数组（行×列）来缓存整个画布，然后一次性输出。图形界面绘制（WindowsForms）：步骤：1.创建一个窗体，添加一个Panel或PictureBox控件，并处理其Paint事件。2.在Paint事件处理程序中，获取Graphics对象。3.定义绘制区域的大小，并设置坐标变换（例如，将数据点映射到控件的大小）。4.绘制坐标轴。5.绘制原始波形（比如用蓝色和绿色），然后绘制差值波形（用红色）。下面我们分别写两个示例代码：控制台示例代码（简化版）：假设两个波形是正弦波和余弦波，计算它们的差值（直接相减）。注意：控制台绘制精度有限，仅作为演示。图形界面示例代码（WindowsForms）：创建一个窗体，在窗体上绘制三个波形。由于用户没有提供具体的波形数据，我们将使用模拟数据（正弦波和余弦波）。注意：控制台绘制可能效果不佳，特别是当数据点很多时，控制台无法显示很多列。所以这里我们只绘制有限个点。我们先写控制台的代码，然后写图形界面的代码。控制台代码：</think>### 如何在控制台或图形界面中绘制两个波形图像的差值 #### 一、控制台绘制方法（文本模式） 在控制台环境中，可以通过字符高度映射来近似显示波形差值： ```csharp // 生成两个示例波形数据 double[] wave1 = GenerateSineWave(50, amplitude: 10); double[] wave2 = GenerateCosineWave(50, amplitude: 8); // 计算差值波形 double[] diff = new double[wave1.Length]; for (int i = 0; i < wave1.Length; i++) { diff[i] = wave1[i] - wave2[i]; } // 控制台绘制 int consoleHeight = 20; // 控制台显示高度 for (int y = consoleHeight; y >= -consoleHeight; y--) { for (int x = 0; x < diff.Length; x++) { int scaledY = (int)Math.Round(diff[x] * consoleHeight / 20); Console.Write(scaledY == y ? "*" : " "); } Console.WriteLine(); } ``` **特点**： 1. 使用字符`*`表示波形点位置 2. 通过缩放系数适配控制台显示高度 3. 简单快速但精度有限，适合快速验证 #### 二、图形界面绘制方法（Windows Forms） 使用`System.Drawing`命名空间实现精确波形绘制： ```csharp public class WaveFormViewer : Form { private readonly double[] wave1, wave2, diff; public WaveFormViewer(double[] w1, double[] w2) { wave1 = w1; wave2 = w2; diff = CalculateDifference(w1, w2); this.DoubleBuffered = true; this.Size = new Size(800, 600); this.Paint += new PaintEventHandler(DrawWaveforms); } private double[] CalculateDifference(double[] a, double[] b) { double[] result = new double[a.Length]; for (int i = 0; i < a.Length; i++) { result[i] = a[i] - b[i]; } return result; } private void DrawWaveforms(object sender, PaintEventArgs e) { Graphics g = e.Graphics; Rectangle plotArea = new Rectangle(50, 50, this.ClientSize.Width - 100, this.ClientSize.Height - 100); // 绘制坐标轴 g.DrawLine(Pens.Black, plotArea.Left, plotArea.Top, plotArea.Left, plotArea.Bottom); g.DrawLine(Pens.Black, plotArea.Left, plotArea.Top + plotArea.Height/2, plotArea.Right, plotArea.Top + plotArea.Height/2); // 绘制原始波形 DrawWave(g, wave1, plotArea, Color.Blue, "Wave 1"); DrawWave(g, wave2, plotArea, Color.Green, "Wave 2"); // 绘制差值波形 DrawWave(g, diff, plotArea, Color.Red, "Difference"); // 添加图例 DrawLegend(g, plotArea); } private void DrawWave(Graphics g, double[] data, Rectangle area, Color color, string label) { PointF[] points = new PointF[data.Length]; float xStep = (float)area.Width / (data.Length - 1); for (int i = 0; i < data.Length; i++) { float x = area.Left + i * xStep; // 归一化Y坐标（假设数据范围在-1到1之间） float y = area.Top + area.Height/2 - (float)data[i] * area.Height/2; points[i] = new PointF(x, y); } using (Pen pen = new Pen(color, 2)) { g.DrawLines(pen, points); } } private void DrawLegend(Graphics g, Rectangle area) { // 图例绘制实现 // ... } } // 使用示例 double[] w1 = GenerateSineWave(200); double[] w2 = GenerateCosineWave(200); Application.Run(new WaveFormViewer(w1, w2)); ``` **关键参数说明**： 1. `NormalizeData()`：将波形数据归一化到`[-1, 1]`范围 2. `PointF`转换：将数据点映射到屏幕坐标 3. `DoubleBuffered`：启用双缓冲消除闪烁 4. 坐标轴自动缩放：根据数据范围动态调整Y轴比例 #### 三、优化技巧 1. **实时渲染优化**： ```csharp // 使用Timer实现动态更新 timer = new Timer { Interval = 50 }; timer.Tick += (s, e) => { UpdateWaveData(); // 刷新数据源 this.Invalidate(); // 触发重绘 }; timer.Start(); ``` 2. **差值增强显示**： ```csharp // 增强差值可视化 if (Math.Abs(diff[i]) > threshold) { g.FillEllipse(Brushes.DarkRed, x-3, y-3, 6, 6); } ``` 3. **多通道叠加显示**： ```csharp // 半透明叠加原始波形 using (var blendBrush = new SolidBrush(Color.FromArgb(80, Color.Blue))) { g.FillPolygon(blendBrush, wave1Points); } ``` #### 四、数学表达 波形差值计算可表示为： $$ \text{diff}(t) = s_1(t) - s_2(t) $$ 其中： - $s_1(t)$ 为原始波形1 - $s_2(t)$ 为原始波形2 - $t$ 为时间采样点 当处理离散信号时： $$ \text{diff}[n] = x_1[n] - x_2[n] $$ 其中 $n$ 为采样序号[^1]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值